Pada tahun 1996 dalam Temu alumni S3 Program Pascasarjana IAIN Syarif Hidayatullah dan Peringatan 70 tahun Prof. Dr. Harun Nasution  (Direktur  Pascasarjana  IAIN  Syarif  Hidayatullah). Harun Nasution dalam sambutannya menyatakan bahwa IAIN Raden Fatah telah memenuhi syarat untuk menyelenggarakan program S2. Kemudian pada kesempatan lain, Prof. Dr. Jalaluddin dan Dr. J. Suyuthi Pulungan, M.A,. mengadakan konsultasi dengan Prof. Dr. Harun Nasution. Dalam konsultasi tersebut, ia mengulangi pernyataannya   bahwa IAIN Raden Fatah sudah boleh membuka program S.2   dan menyarankan agar segera diusulkan, sehingga dalam waktu yang tidak terlalu lama program tersebut sudah berjalan. Ia juga menyatakan kesediaannya untuk turut memperjuangkan usulan tersebut.

Pada tahun 1997 Prof. Dr. Jalaluddin sebagai pembantu Rektor I meminta Dr. J. Suyuthi Pulungan menyusun proposal Pendirian Program Pascasarjana S2. Setelah Proposal disusun, dikoreksi, dan disempurnakan oleh Prof. Dr. H. Jalaluddin, proposal tersebut dikirimkan ke Departemen Agama bersamaan dengan proposal pembukaan Fakultas Adab dan Fakultas Dakwah., akan tetapi  usul pembukaan S2 tidak mendapat jawaban dari pihak Departemen Agama dan karena berbagai kendala, IAIN Raden Fatah juga mendiamkannya.

Pada tahun 1999 setelah Prof. Dr. H. Jalaluddin terpilih menjadi Rektor menggantikan Drs. H. Moh. Said, M.A,. keinginan membuka program S2 dimunculkan kembali. Untuk itu, ia meminta Dr. J. Suyuthi Pulungan, M.A,. agar menyempurnakan proposal yang sudah ada dan menyesuaikannya dengan buku “Pedoman Penyusunan Portofolio Program  Studi  Pascasarjana Tahun 1998”. Lalu proposal tersebut dikirimkan kembali ke Departemen Agama. Pihak Departemen Agama menginformasikan agar proposal tersebut dilengkapi  lagi, seperti susunan panitia pembukaan, rencana personil pengelola dan rekomendasi gubernur serta MOU kerjasama dengan Universitas Sriwijaya (UNSRI).

Pada 09 November 1999 melalui Keputusan   Rektor   nomor   XCVI, Rektor IAIN Raden Fatah membentuk panitia persiapan pembukaan program pascasarjana S2 Magister Agama untuk memantapkan penyempurnaan proposal tersebut yang dipimpin oleh Dr. J. Suyuthi Pulungan, MA sebagai Ketua dan Drs. M. Sirozi, M.A. Ph.D,. sebagai Sekretaris. Dalam rangka pelaksanaan tugas tersebut maka panitia melakukan beberapa kegiatan. 

• Pertama, survey calon mahasiswa, survey pengguna lulusan, dan survey tanggapan para pakar tentang rencana pembukaan program S2. Survey dikelola oleh Drs. Ahmad Zainal (Kepala Pusat Penelitian) dan Drs.  Zulkifli,  MA  (Dekan  Fakultas  Adab).
• Kedua, melaksanakan Serasehan dengan mengundang para pakar dan praktisi pada tanggal 6 Desember 1999.
• Ketiga, mengupayakan rekomendasi dukungan dari berbagai instansi, yaitu Dewan Perwakilan Rakyat Propinsi Sumatera Selatan, Gubernur Sumatera Selatan dan Wali Kotamadya Palembang.
• Keempat, mengupayakan kerjasama dengan UNSRI yang diwujudkan dalam bentuk MOU. 
• Kelima, pengadaan buku perpustakaan. Semua kegiatan tersebut dilakukan dalam rangka melengkapi/menyempurnakan proposal.

Kemudian untuk memperkuat bagian alasan pembukaan program pada proposal dilakukan penajaman yang meliputi kebutuhan akan tenaga pengajar berkualifikasi pascasarjana, antisipasi kebutuhan SDM yang berkualitas di daerah pada era otonomisasi, mendukung misi IAIN Raden Fatah, yaitu menjadikannya sebagai research university dan centre for excelence dalam ilmu-ilmu keislaman untuk Sumatera Selatan khususnya dan besarnya minat para dosen dan alumni di wilayah ini untuk studi pasca S1. Semua aspek penajaman alasan tersebut dilengkapi dengan data pendukung hasil survei.

Melalui Surat Rektor Nomor IN/4/1.2/KP.07.6/111/2000 tanggal 27 Januari 2000 Proposal yang telah selesai diempurnakan kemudian dikirim ke Departemen Agama. Pihak Departemen Agama dalam hal ini Dirjen Binbaga Islam menjawab, agar proposal dipresentasikan di depan Tim Guru Besar Departemen Agama.

Pada tanggal 10 Mei 2000, dilaksanakannya presentasi oleh Tim Presentasi IAIN Raden Fatah berjumlah 7 orang yaitu semua dosen yang berkualifikasi doktor yakni: Prof. Dr. Jalaluddin, Prof. Dr. Wardini Ahmad, Dr. J. Suyuthi Pulungan, M.A., Dr. Aflatun Muchtar, M.A., Dr. Cholidi Zainuddin, Drs. M. Sirozi, M.., Ph.D. Juga hadir mantan Rektor IAIN Raden Fatah yaitu Drs. Moh. Said, M.A. Dalam acara presentasi tersebut Tim Guru Besar Departemen Agama menyarankan agar proposal disempurnakan.

Pada tanggal 10 Juli 2000, Tim Guru Besar Departemen Agama bertemu kembali dengan Rektor bersama ketua dan sekretaris panitia di Departemen Agama untuk mendiskusikan proposal yang sudah disempurnakan tersebut.

Pada tanggal 2-3 Agustus 2000, Departemen Agama mengirimkan Tim Visitasi yang terdiri dari Prof. Dr. Mastuhu, M.Ed., Prof. Dr. Yuhara  Sukra  dan  Dr.  Muharam  Marzuki  ke  IAIN  Raden Fatah. Misi utama tim tersebut adalah untuk mencocokkan data dan   informasi   yang   tercantum   dalam   proposal   dengan kenyataan di lapangan.

Pada tanggal 3 Agustus 2000, mengacu pada hasil visitasi tersebut, tim menyetujui IAIN Raden Fatah membuka Program Pascasarjana S2 mulai tahun 2000.

Tim menilai bahwa dari  segi  tenaga dosen,  prasarana dan  sarana  belajar mengajar serta buku-buku perpustakaan serta SDM pengelola IAIN Raden Fatah sudah siap. Tim juga menyetujui usul program studi yang akan diselenggarakan, yaitu program studi Ilmu Pendidikan Islam dengan tiga konsentrasi keahlian meliputi Pemikiran, Metodologi dan Manajemen.

Tim juga merekomendasikan kepada Dirjen Binbaga Departemen Agama agar segera mengeluarkan izin pembukaan Pascasarjana IAIN Raden Fatah.

Pada tanggal 16 Agustus 2000, Rektor IAIN Raden Fatah melaksanakan sidang Senat IAIN untuk memilih calon Direktur Pascasarjana IAIN Raden Fatah. Dalam sidang tersebut secara aklamasi disetujui bahwa M. Sirozi, Ph.D,. sebagai calon Direktur Pascasarjana IAIN Raden Fatah.

Pada tanggal 25 Agustus 2000, dilakukan pertemuan calon direktur dengan Dirjen Binbaga Islam bersama staf untuk pemantapan tahap akhir tentang izin pembukaan Pascasarjana IAIN Raden Fatah. Dalam pertemuan tersebut dinyatakan bahwa Departemen Agama akan segera mengeluarkan izin pembukaan Pascasarjana IAIN Raden Fatah pada tahun 2000.

Komitmen tersebut ditindaklanjuti dengan keluarnya Surat Keputusan Dirjen Binbaga Islam nomor: E/175/2000 tentang Penyelenggaraan Program Pascasarjana Magister Agama  (S2)  IAIN Raden Fatah. Berdasarkan Surat Keputusan tersebut, maka dilakukan penerimaan mahasiswa perdana melalui kegiatan pendaftaran calon mahasiswa baru pada tanggal 1 s.d 16 September 2000, seleksi peserta pada tanggal 20-21 September 20-21 September 2000.

Pada tanggal 02 Oktober 2000, peresmian pendirian Pascasarjana IAIN Raden Fatah diawali dengan kegiatan perdana dalam bentuk acara kuliah iftitah yang disampaikan oleh Bapak Dr. Husni Rahim yang pada saat itu menjabat sebagai Dirjen Binbaga Islam dan dihadiri oleh 26 orang mahasiswa baru Pascasarjana UIN Raden Fatah.

Pada tahun akademik 2003/2004 memasuki tahun ketiga, Program Pascasarjana IAIN Raden Fatah mulai meluluskan sarjana magister.

Mulai  periode Juni  2003 karena semakin meningkatnya keinginan dosen-dosen IAIN Raden Fatah untuk meneruskan  kuliah  ke jenjang S2, terutama bagi para dosen yang berlatar  belakang non kependidikan, Program Pascasarjana IAIN Raden Fatah menambah dua program studi  baru yaitu,

• Program Studi Hukum Islam dengan konsentrasi  Hukum Tata Negara, Ekonomi Syari’ah dan Peradilan Agama dengan SK Dirjen Pendis  Nomor: DJ.II/176/2004 tanggal 18 Juni 2004.
• Program Studi Sejarah Peradaban Islam dengan konsentrasi  Islam Indonesia, Tafsir  Hadis,  dan  Politik  Islam berdasarkan SK Nomor DJ.II/382/2004 tanggal 21 Oktober 2004.

Pada tanggal 19 Agustus 2013 Pascasarjana dari semula hanya terdiri dari tiga program studi yaitu Ilmu Pendidikan Islam (IPI), Hukum Islam (HI) dan Sejarah Peradaban Islam (SPI). melalui SK Dirjen Pendis  Nomor: 2255, program studi (S2) pada Program  Pascasarjana  IAIN  Raden Fatah  mengalami perubahan terdiri dari:

• Program Studi Pendidikan Agama Islam
• Program Studi Manajemen Pendidikan Islam
• Program Studi Ilmu al-Quran dan Tafsir
• Program Studi Sejarah dan Kebudayaan Islam
• Program Studi Hukum Tata Negara
• Program Studi Ekonomi Syariah.

Dengan memperluas program studi dan konsentrasi baru tersebut menambah kajian keislaman  dalam rangka  merespon kebutuhan dan tuntutan masyarakat.