Pusat bahasa telah ada seiring berdirinya IAIN Sumatera Utara. Pertama kali berkantor di Gedung Sibawaihi Kampus 1 Jalan Sutomo selanjutnya pindah ke kampus II Jalan Pancing di Gedung yang berdekatan dengan Fakultas Dakwah dan Komunikasi (FDK). Selanjutnya berpindah ke Gedung hibah dari Arab Saudi yang berdekatan dengan Fakultas Ekonomi dan Bisnis Islam (FEBI). Kepala Pusat Bahasa pertama Drs.  Hasan Hasbi, kedua,  Drs. Suaif, ketiga, Drs. Syamsul Bahri Panggabean. Keempat. Drs. Anwarsyah Nur. MA. Kelima. Dr. Phil. Zainul Fuad, Keenam. Dr. Ardiansyah, MA, ketujuh, Dr. Muhammad Dalimunthe. MA. kedelapan, Dr. Watni Marpaung, MA. Nama pertama untuk Pusat Bahasa dengan singkatan Pusbinsa (Pusat Pembinaan Bahasa) dan selanjutnya dalam Ortaker yang baru berganti dengan Pusat Pengembangan Bahasa (Puspesa). Pada awal pusat bahasa fokus pada pembinaan bahasa Arab dan Inggris. Dalam perkembangan waktu pusat bahasa telah berkembang pada bahasa Indonesia. Tuntunan bahasa Indonesia bagi mahasiswa asing atau dalam bentuk matakuliah BIPA (Bahasa Indonesia Penutur Asing) menjadi suatu keniscayaan. Setiap mahasiswa asing yang belajar di UIN SU mesti mempelajari bahasa Indonesia sebagai bahasa penutur dan dalam proses penulisan tugas akhir.