Meskipun banyak bangunan Islam tertua di Jawa dan hampir semuanya diSumatera tidak bertahan,^[1] terutama karena pengaruh iklim terhadap bahan bangunan yang mudah lapuk, bangunan permanen tidak dianggap sebagai prioritas untuk ibadah umat Islam, karena ruang terbuka dan bersih mana pun dapat menampung ibadah berjamaah.^[2]

Sebagian besar masjid Islam awal masih dapat ditemukan di Jawa, dan gaya arsitekturnya mengikuti tradisi bangunan yang ada diJawa. Ciri khasarsitektur Islam Jawa meliputi atap bertingkat, gerbang upacara, empat tiang utama yang menyokong atap piramida yang menjulang tinggi, dan beragam elemen dekoratif seperti finial tanah liat yang rumit untuk puncak atap. Atap bertingkat ini berasal dari atapmeru bertingkat yang ditemukan dipura Bali. Beberapa arsitektur Islam Jawa awal menyerupaicandi atau gerbang eraMajapahit.^[3]

Masjid tertua di Indonesia yang masih ada hingga kini berukuran cukup besar dan sebagian besarnya berhubungan erat dengan istana.^[4] Masjid tertua yang masih ada di Indonesia adalahMasjid Agung Demak yang merupakan masjid kerajaanKesultanan Demak, meskipun ini bukan bangunan Islam tertua. Bangunan Islam tertua di Indonesia adalah bagian dari istana kerajaan diKesultanan Cirebon,Cirebon. Kompleks istana berisikronogram yang dapat dibaca sebagai padanan Saka tahun 1454 M. Istana-istana Islam awal mempertahankan banyak ciri arsitektur pra-Islam yang tampak pada gerbang-gerbang atau menara genderang.Istana Kasepuhan kemungkinan dibangun pada akhir masa pra-Islam dan terus berkembang pada masa peralihan agama Hindu ke Islam. Kompleks ini berisi petunjuk mengenai tahapan proses perubahan bertahap saat Islam masuk ke dalam arsitektur Indonesia. Dua ciri khas Hindu yang diadopsi ke dalam Islam di Istana adalah dua jenis pintu gerbang, yakni portal terbelah (candi bentar ) yang menuju ke pendopo tempat berlangsungnya audiensi publik dan gerbang ambang (paduraksa ) yang menuju ke pelataran depan.^{[kutipan diperlukan]}

Menara masjid pada awalnya bukan merupakan bagian yang tidak terpisahkan dari masjid di Indonesia.^[5] MenaraMasjid Menara Kudus dibangun dengangaya candi bata Hindu Jawa,^[6] Menara ini tidak digunakan sebagai menara, tetapi sebagai tempatbedug, sebuah genderang besar yang dipukul untuk memanggil orang untuk sholat di Indonesia. Menara ini mirip dengan menara genderang kuil Hindu Bali yang disebutkul-kul. Hal ini menunjukkan adanya kelanjutan dari periode Hindu-Buddha sebelumnya ke era Islam di Indonesia.^[5]

• Beberapa contoh masjid pra-kolonial di Indonesia
• 
  Masjid Tuo Kayu Jao diSumatera Barat (abad ke-16).
• 
  Masjid Menara Kudus di Jawa Tengah dibangun pada abad ke-16 mengikuti gaya Hindu-Buddha eraMajapahit.
• 
  Gerbang Masjid Panembahan SenapatiKotagede,Yogyakarta.
• 
  Masjid Sultan Ternate diMaluku Utara (abad ke-17).

Kubah danlengkungan runcing, fitur terkenal di Asia tengah, selatan dan barat daya, tidak muncul di Indonesia sampai abad ke-19 ketika diperkenalkan oleh pengaruhBelanda terhadap penguasa lokal. Para sarjana Indonesia mulai mengenal pengaruhTimur Dekat ketika mereka mulai mengunjungi pusat-pusat Islam diMesir danIndia.^[7]

Kubah di Indonesia mengikuti bentuk kubah bawang India dan Persia. Kubah ini pertama kali muncul di Sumatera. Masjid AgungKesultanan Riau diPulau Penyengat merupakan masjid tertua di Indonesia yang masih memiliki kubah. Terdapat indikasi bahwaMasjid Rao Rao diSumatera Barat menggunakan kubah pada desain awalnya.^[8] Penerapan kubah pada masjid di Jawa lebih lambat dibandingkan di Sumatera.^[8] Masjid berkubah tertua di Jawa kemungkinan besar adalah Masjid Jami Tuban (1928), diikuti oleh Masjid Agung Kediri dan Masjid Al Makmur Tanah Abang di Jakarta.^[8]

• Beberapa contoh masjid era kolonial di Indonesia
• 
  Masjid Agung Manonjaya diTasikmalaya, sekitar tahun 1890
• 
  Masjid Agung Banten, sekitar tahun 1857–1872
• 
  Masjid Raya Baiturrahman diAceh, sekitar tahun 1910–1930
• 
  Masjid Agung Medan, selesai dibangun tahun 1909.

Setelah berdirinya Republik Indonesia, banyak masjid tua yang dibangun dengan gaya tradisional direnovasi dan kubah kecil ditambahkan ke atap berbentuk persegi. Mungkin dibangun dengan meniru modifikasi serupa yang dilakukan terhadap masjid utama di ibu kota daerah di dekatnya.^[9]

Sejak tahun 1970-an, kesesuaian bangunan tradisional telah diakui secara politis, dan beberapa bentuk berpinggul berlapis telah dipulihkan. PresidenSuharto berkontribusi terhadap tren ini selama tahun 1980-an dengan mendirikan Yayasan Amal Bakti Muslim Pancasila yang mensubsidi pendirian masjid-masjid kecil di masyarakat kurang sejahtera. Desain standar masjid ini mencakup tiga atap berpinggul di atas aula sholat berbentuk persegi, mengingatkan kita padaMasjid Agung Demak.^[10]

• Beberapa contoh masjid era pasca kemerdekaan di Indonesia
• 
  Masjid Agung Al-Azhar (1958) diKebayoran Baru, Jakarta dipengaruhi oleh Timur Dekat lebih kuat daripada gaya vernakular.
• 
  Masjid Agung Jawa Tengah, selesai dibangun pada tahun 2006, menunjukkan campuran eklektik tradisi arsitektur Jawa, Eropa, dan Timur Tengah.^[11]
• 
  Masjid Al-Akbar dengan kubah berbentuk setengah telur,Surabaya, selesai dibangun tahun 2000.

Kebanyakan masjid tertua di Jawa biasanya memiliki atap bertingkat.Serambi (teras beratap) yang menempel di bagian depan masjid. Jumlah tingkatan minimalnya dua sedangkan maksimalnya lima. Bagian atas atap dihiasi dengan hiasan tanah liat yang disebutmustoko ataumemolo. Kadang-kadang tingkatan atap melambangkan pembagian ke dalam beberapa lantai terpisah yang masing-masing digunakan untuk fungsi berbeda: lantai bawah untuk salat, lantai tengah untuk belajar, dan lantai atas untuk mengumandangkan adzan.^[12]

Di dalam masjid terdapatmihrab di dindingkiblat danmimbar kayu. Relung mihrab terbuat dari batu bata dan dihiasi dengan ukiran kayu yang berasal dari seni pra-Islam di daerah tersebut.^[13] Dinding penutupnya cukup rendah dan dihiasi dengan mangkuk dan piring yang berasal dari Cina, Vietnam, dan tempat lain. Di tengah sisi timur terdapat sebuah gerbang monumental. Beberapa masjid, seperti masjid di Yogyakarta, juga dikelilingi oleh parit.^[13]

Ciri-ciri lain dari masjid-masjid awal ini adalah halaman, dan gerbang.^[14]

Mirip dengan masjid-masjid di Jawa, masjid-masjid di Sumatera memiliki atribut-atribut masjid di Jawa. Beberapa antropolog berpendapat bahwa tidak ada satupun bangunan Islam tertua di Sumatera yang masih bertahan.^[15]

DiSumatera Barat, masjid yang dikenal sebagaisurau, mengikuti gaya lokal dengan atap tiga atau lima tingkat yang mirip dengan masjid Jawa, tetapi dengan profil atap 'tanduk' khasMinangkabau. Atapnya ditopang oleh deretan kolom konsentris, yang sering kali berfokus pada penopang sentral yang menjulang tinggi yang mencapai puncak bangunan. Beberapa masjid dibangun di dekat kolam buatan (tabek). Ukiran kayu tradisional Minangkabau biasanya diterapkan pada fasad.^[16]

KerajaanBanjar diKalimantan Selatan merupakan kerajaan Hindu pertama di Kalimantan yang memeluk agama Islam setelah mendapat pengaruh dariKesultanan Demak di Jawa. Gaya arsitektur masjid Banjar mempunyai kemiripan dengan masjid-masjid kesultanan Demak, khususnyaMasjid Agung Demak. Dalam perjalanan sejarahnya, Banjar mengembangkan gaya arsitekturnya sendiri. Salah satu ciri utama masjid Banjar adalah atapnya yang bertingkat tiga atau lima dengan puncak yang curam, berbeda dengan atap masjid Jawa yang relatif rendah. Ciri lainnya adalah tidak adanyaserambi (teras beratap) di masjid Banjar, yang merupakan ciri tradisional di masjid Jawa. Gaya masjid Banjar mirip dengan masjid-masjid di Sumatera Barat dan mungkin berhubungan dengan contoh-contoh lain dari Semenanjung Malaysia.^[17]

Islam datang ke Maluku pada akhir abad ke-15 melalui Jawa, dengan dampak terkuat dirasakan di pulau rempah-rempahTernate danTidore. Fitur-fitur yang ada di masjid tertua di kepulauan ini, seperti Masjid Sultan Ternate, meniru fitur-fitur yang ada di masjid-masjid tertua di Jawa.^[18] Namun, masjid-masjid di Maluku tidak memiliki peristyle, teras, halaman, dan gerbang, tetapi tetap mempertahankan atap bertingkat dan denah lantai terpusat seperti masjid-masjid di Jawa.^[19] Wilayah Papua hanya memiliki sedikit masjid penting, karena wilayah tersebut sebagian besar beragama Kristen.