Islam telah memperkenalkan tradisi baru dalam bentuk bangunan. Surutnya Majapahit yang diikuti oleh perkembangan agama Islam menentukan perubahan tersebut. Islam telah memperkenalkan tradisi bangunan, seperti mesjid dan makam. Islam melarang pembakaran jenazah yang merupakan tradisi dalam ajaran Hindu-Buddha; sebaliknya jenazah bersangkutan harus dimakamkan di dalam tanah. Maka dari itu, peninggalan berupa nisan bertuliskan Arab merupakan pembaruan seni arsitektur pada masanya.
Islam pertama kali menyebar di daerah pesisir melalui asimilasi, perdagangan dan penaklukan militer. Baru pada abad ke-17, Islam menyebar di hampir seluruh Nusantara. Persebaran bertahap ini, ternyata tidak berpengaruh terhadap kesamaan bentuk arsitektur di seluruh kawasan Islam. Sebagian arsitektur Islam banyak terpengaruh dengan tradisi Hindu-Buddha yang juga telah bersatu padu dengan seni tradisional. Persebaran Islam tidak dilakuan secara revolusioner yang berlangsung secara tiba-tiba dan melalui pergolakan politik dan sosial yang dahsyat.
Memang, menurut Tome Pires (De Graaf dan Pigeaud), terdapat penyerbuan secara militer terhadap ibukota Majapahit yang masih Hindu-Buddha yang dilakukan oleh sejumlah santri dari Kudus yang dipimpin oleh Sunan Kudus dan Rahmatullah Ngudung atau Undung. (Nama Kudus diambil dari kata al-Quds atau Baitul Maqdis di Yerusalem, Palestina, yang merupakan kota suci umat Islam ketiga setelah Mekah dan Madinah). Namun, secara umumnya proses islamisasi berlangsung dengan damai. Dengan jalan damai ini, Islam dapat diterima dengan tangan terbuka. Pembangunan tempat-tempat ibadah tidak sepenuhnya mengadospi arsitektur Timur Tengah. Ada masjid yang bangunannya merupakan perpaduan budaya Islam-Hindu-Buddha, misalnya Masjid Kudus—meskipun pembangunannya diragukan, apakah dibangun oleh umat Hindu atau Islam. Ini terlihat dari menara masjid yang berwujud seperti candi dan berpatung. Masjid lain yang bercorak campuran adalah Masjid Sunan Kalijaga di Kadilangu dan Masjid Agung Banten. Atap pada Masjid Sunan Kalijaga berbentuk undak-undak seperti bentuk atap pura di Bali atau candi-candi di Jawa Timur.
Tempat sentral perubahan seni arsitektur dalam Islam terjadi di pelabuhan yang meruapkan pusat pembangunan wilayah baru Islam. Sementara para petani di pedesaan dalam hal seni arsitektur masih mempertahankan tradisi Hindu-Buddha. Tak diketahui seberapa jauh Islam mengambil tradisi India dalam hal seni, karena beberapa keraton yang terdapat di Indonesia usianya kurang dari 200 tahun. Pengaruhnya terlihat dari unsur kota. Masjid menggantikan posisi candi sebagai titik utama kehidupan keagamaan. Letak makam selalu ditempatkan di belakang masjid sebagai penghormatan bagi leluhur kerajaan. Adapula makam yang ditempatkan di bukit atau gunung yang tinggi seperti di Imogiri, makam para raja Mataram-Islam, yang memperlihatkan cara pandang masyarakat Indonesia (Jawa) tentang alam kosmik zaman prasejarah.
Sementara, daerah yang tertutup tembok masjid merupakan peninggalan tradisi Hindu-Buddha. Terdapat kesinambungan antara seni arsitektur Islam dengan tradisi sebelum Islam. Contoh arsitektur klasik yang berpengaruh terhadap arsitektur Islam adalah atap tumpang, dua jenis pintu gerbang keagamaan, gerbang berbelah dan gerbang berkusen, serta bermacam unsur hiasan seperti hiasan kaya yang terbuat dari gerabah untuk puncak atap rumah. Ragam hias sayap terpisah yang disimpan pada pintu gerbang zaman awal Islam yang mungkin bersumber pada relief makara atau burung garuda zaman pra-Islam. Namun sayang, peninggalan bentuk arsitektur itu banyak yang dibuat dari kayu sehingga sangat sedikit yang mampu bertahan hingga kini.
