Permulaan berdirinya MA Miftahul Ulum Ngemplak Kecamatan Mranggen Kabupaten Demak berangkat dari sistem pandidikan Salafiyyah yang di pelopori oleh K. H. Ma’shum yang di dirikan bersama warga masyarakat pada tahun 1986. memang pada waktu itu masih menggunakan siswa salafiyyah bukan kurikulum seperti yang berjalan sekarang ini, sehingga tenaga pengajar yang direkrut semuanya berlatar belakang Pondok Pesantren Salafiyyah. Kemudian akhirnya mengingat dan menimbang MA Miftahul Ulum Ngemplak Kecamatan Mranggen Kabupaten Demak pada tahun 1994 berubah 1800 mengikuti kurikulum Departemen Agama RI, namun tetap mempertahankan mata pelajaran salafiyyah. Maka mulai tahun 1994 itu pula Ketua Yayasan Pendidikan Islam Miftahul Ulum Ngemplak Mranggen Demak (K.H. Ma’shum) telah mengangkat dan menetapkan Kyai. Muhyiddin sebagai Kepala Madrasahnya, dan sejak itulah tenaga pengajar yang berlatar belakang sarjana (S1) mulai direkrut, namun tidak lupa pula tetap mempertahankan tenaga pengajar yang berlatar belakang Pon-Pes untuk mengampu mata pelajaran salafiyyah.
Kemudian sejak diberlakukannya kurikulum tiap tahun ajaran baru grafik perkembangan siswa MA Miftahul Ulum Ngemplak Mranggen Demak terus berkembang dan meningkat, meskipun saat itu izin pendirian Madrasah dari Departemen Agama belum turun, dan sambil menunggu turunya izin tersebut MA Miftahul Ulum Ngemplak Mranggen Demak pada waktu itu bekerjasama dengan MA Al-Fattah Tambakroto Sayung Demak untuk sementara.
Kemudian pada tahun berikutnya tepatnya tahun 1997 Ketua Yayasan Pendidikan Islam Miftahul Ulum telah mengangkat Bapak Drs. Tulusmono menjadi Kepala Madrasahnya sebagai penggati Bapak Muhyiddin, beliau berbekal pengalaman menjadi Waka Kurikulum di MTs Miftahul Ulum Ngemplak Mranggen Demak, beliau Bapak Drs. Tulusmono melakukan berbagai trobosan demi kemajuan MA Miftahul Ulum Ngemplak Mranggen Demak seperti administrasi, tata tertib baik guru maupun siswa mulai diberlakukan, dan kualifikasi guru mulai ditingkatkan. Sehingga perekrutan guru berformalitas Sarjana menjadi pilihan utama. Namun kurikulum salafiyyah tetap dipertahankan. Dimasa kepemimpinan beliau Drs Tulusmono tepatnya tahun 1998 MA Miftahul Ulum Ngemplak Mranggen Demak memperoleh izin pendirian Madrasah dari kantor Wilayah Departemen Agama Profinsi Jawa Tengah, dengan nomor SK : wk/5.a/pp.03.2/3991/1998 tanggal 15 Oktober 1998 dengan status terdaftar dan Nomor Statistik : 321332101337. Sudah barang tentu dengan turunya izin pendirian Madrasah tersebut menjadi semakin berkembangnya MA Miftahul Ulum, dari tahun ke tahun jumlah siswanya terus meningkat. Pada tahun 2005 MA. Miftahul Ulum Ngemplak Mranggen Demak diakreditasi oleh tim Akreditasi Kantor Wilayah Depertamen Agama Profinsi Jawa Tangah, dan berkat kebersamaan antara Ketua Yayasan, Kepala Madrasah, dan para dewan Guru dan Karyawan. Serta orang tua murid dalam Akreditasi ini MA Miftahul Ulum Ngemplak Mranggen Demak mendapat status “Terakreditasi B” dengan surat keputusan dari Kepala Kantor Wilayah Departemen Agama Provinsi Jawa Tengah Nomor : Kw. 11.4/4/PP.03.2/625/2005 tanggal 27 Juni 2005.
Namun setelah mengangkat MA Miftahul Ulum Ngemplak Mranggen Demak sebagai Madrasah yang berstatus “Terakreditasi B”, Drs. Tulusmono mngundurkan diri dari jabatanya menjadi kepala Madrasah, karena pada saat itu beliau diangkat menjadi pegawai negeri sipil (PNS), di Instansi departemen Agama Kota Madya Salatiga dan bertugas di di Salatiga.
Sebagai pengganti beliau, Ketua Yayasan Pendidikan Islam Miftahul Ulum Ngemplak Mranggen Demak telah mengangkat Bapak Drs. Taukhid sebagai Kepala Madrasah, yang sebelumnya telah menjabat sebagai Waka Kurikuulm. Dalam berbagai kebijaksanaan Bapak Drs Taukhid tetap mengikuti jejak pendahulu-pendahulunya, yaitu menjadikan MA Miftahul Ulum sebagai madrasah yang mengkuti kurikulum Departemen Agama namun tetap mempertahankan pelajaran-pelajaran salafiyah, karena amanat dari ketua Yayasan, tujuan pendirian MA Miftahul Ulum siswa matang keilmuan Pondok Pesantrennya, namun tidak ketinggalan ilmu umumnya. Namun karena tuntutan Undang-undang pendidikan tentang kualifikasi guru maka beliau mengajurkan agar para guru-guru yang belum berijazah Sarjana untuk melanjutkan studi keperguruan tinggi jenjang S1, meskipun guru tersebut mengampu mata pelajaran salafiyah kecuali bagi guru yang sudah udzur usia.
Pada kepemimpinan Drs. Taukhid, M.Pd.I telah membawa banyak perubahan diantaranya telah berhasil mencapai perolehan nilai akrediasi “A” yang telah di visitasi pada tahun 2017.
Selapas kepemimpinan Drs. Taukhid, M.Pd.I, Ketua yayasan telah mengangkat Bagus Ainul Ghuri putra dari Romo Yai Ma’shum Al Magfurlah
Kini MA Miftahul Ulum Ngemplak Mranggen Demak pada tahun pelajaran ini memiliki siswa 342, mereka datang dari berbagai daerah, baik dari daerah Kecamatan Mranggen terutama desa Ngemplak dan sekitarnya, maupun dari luar Kecamatan Mranggen seperti Kecamatan Sayung, Kecamatan Guntur, Kecamatan Karang Tengah, bahkan dari luar kabupaten Demak, Seperti Kabupaten Grobogan dan Kota Madya Semarang.