Perjuangan dalam mendirikan sistem pendidikan Islam formal di Indonesia sudah dimulai saat awal masa kemerdekaan. Bahkan, bisa dibilang sebelum masa kemerdekaan pun benih-benih tersebut telah muncul dengan diprakarsai oleh golongan-golongan nasionalis dan kelompok Islam. Pada tahun 1940 sebuah lembaga pendidikan Islam pertama di Indonesia lahir dan dibentuk melalui hasil pertemuan guru-guru muslim di Sumatera Barat. Lembaga tersebut bernama Sekolah Tinggi Islam (STI) yang nantinya akan menjadi cikal-bakal UIN, IAIN, dan STAIN yang menjadi wujud nyata dari pemberdayaan pendidikan Islam di tingkat perguruan tinggi di Indonesia. Akan tetapi, karena tidak adanya dukungan yang memadai dan panasnya gejolak politik saat itu, STI yang berada di Sumatera Barat ini tidak berkembang dengan baik.
Namun, kabar baik pun datang pada tahun 1945, dimana saat itu konsep mengenai sistem Sekolah Tinggi Islam ini didengar oleh kelompok-kelompok nasionalis agamis yang berada di Jakarta, yaitu M. Natsir dan M. Hatta. Sehingga puncaknya STI pun didirikan di Ibu Kota Jakarta, dengan Hatta duduk sebagai ketua lembaga, Natsir menduduki jabatan sekretaris, dan Kahar Muzakar sebagai pimpinan kelembagaan pendidikannya. Salah satu alasan penting dalam pendirian STI ini menurut Hatta adalah sebagai wujud antitesis terhadap sistem pendidikan yang dibawa oleh Belanda selama menjajah di Indonesia yang telah banyak merenggut nilai-nilai budaya dan religiusitas dari peradaban masyarakat Indonesia. Oleh karena itulah, Hatta terinspirasi untuk menghadirkan sebuah sistem pendidikan yang dapat mengakomodasi hal itu dan jawabannya adalah STI tersebut.
Akan tetapi, pada tahun 1946 STI ini harus dipindahkan ke Yogyakarta karena mengikuti perpindahan ibu kota negara Indonesia pada saat itu. Mulai dari situlah perkembangan mulai nampak, dari lahirnya Universitas Islam Indonesia (UII) pada tahun 1948 dan tahun 1950 melalui PP No. 34 tahun 1950 lahirlah Perguruan Tinggi Agama Islam Negeri (PTAIN) yang merupakan pecahan dari fakultas agama Universitas Islam Indonesia. Selain itu di tahun 1957, pemerintah pun melalui Kementertian Agama saat itu mendirikan Akademi Dinas Ilmu Agama (ADIA) di Jakarta untuk mempersiapkan guru, dosen, tokoh, atau pimpinan Islam yang fokus dalam kajian keislaman.
Kemudian, tahun 1960 pemerintah akhirnya mendirikan Institut Agama Islam Negeri (IAIN) pertama yang berlokasi pusat di Yogyakarta dengan nama IAIN al-Jami’ah al-Islamiyah al-Hukumiyah. IAIN ini sejatinya adalah gabungan dari PTAIN di Yogyakarta dengan ADIA di Jakarta. Sehingga secara prinsipnya ADIA Jakarta berkamuflase menjadi bagian dari IAIN yang berada di Yogyakarta tersebut.
Dalam perjalanannya pada tahun 1965 IAIN al-Jami’ah al-Islamiyah al-Hukumiyah Yogyakarta berganti nama menjadi IAIN Sunan Kalijaga dan IAIN cabang Jakarta pun pada tahun 1963 resmi berdiri sendiri dengan naman IAIN al-Jami`ah al Hukumiyyah Syarif Hidayatullah Jakarta. Setelah itu, banyak lahir IAIN cabang di daerah-daerah lain di Indonesia seperti IAIN Palembang, IAIN Palangkaraya, IAIN Bengkulu, IAIN Curup, IAIN Imam Bonjol Padang, IAIN Sunan Gunung Djati Bandung, dan lainnya.
Dalam perkembangannya, terdapat perubahan dimana IAIN cabang tersebut menjadi STAIN yang dapat mengelola dirinya sendiri (otonom). Namun, hal tersebut tidak bertahan lama setelah terdapat perubahan kembali yang menyatakan beberapa STAIN berubah menjadi IAIN kembali. Hingga pada perkembangan mutakhirnya beberapa PTAIN/PTKIN bertransformasi menjadi Universitas Islam Negeri (UIN) yang banyak dikenal saat ini.
