Sebelum berdirinya STAI As-Sunnah, pada tahun 2002 M berdirilah sebuah lembaga pengajaran bahasa Arab dan Ilmu-ilmu Islam yang dikenal dengan nama Ma’had ‘Aly As-sunnah. Seiring dengan berjalannya waktu, Ma’had Aly As-Sunnah telah banyak mencetak lulusan yang mempunyai kemampuan berbahasa Arab dan ilmu-ilmu Islam yang bagus sebanyak 8 angkatan. Sebagian besar lulusan melanjutkan pendidikannya ke jenjang yang lebih tinggi, baik di luar negeri, seperti Arab Saudi, dan di dalam negeri, seperti: LIPIA Jakarta, IAIN Medan dan lain-lain. Demikian halnya, banyak pula yang terjun ke medan dakwah dan pendidikan Islam untuk mengabdikan ilmunya bagi kepentingan agama Islam.