Erzurum'dan göçen bir ailenin çocuğu olarak 1934 yılında Çorum'da doğan Karaman, ilkokulu burada bitirdikten sonra, özel olarak Arapça ve İslami ilimler tahsil etmiştir. İlk İmam Hatip okullarından biri olan Konya İmam Hatip Okuluna girmiş ve ikinci dönem mezunları arasında yer almıştır (1959). Bu esnada Konya Musalla ve Hoca Fakılı camilerinde imam-hatip olarak görev yapmıştır. Mevlana konusunda liseler arası kompozisyon yarışmasında Konya birincisi, meşhur ve büyük Kapı Camii'nde Cuma'dan önce örnek vaaz veren ilk İmam Hatip öğrencisi olmuştur