Semasa muda, Buya Kafa mengenyam pendidikan di Pondok Pesantren Lirboyo tepatnya di Madrasah Hidayatul Mubtadien.
Setelah lulus, Buya Kafa memperdalam ilmunya di Pondok Pesantren Al-Fadllu Kaliwungu, Kendal yang saat itu diasuh oleh KH Dimyathi Ro'is.
Baca Juga: Aplikasi BRImo Permudah Nasabah, Tak Terkecuali Terhadap Kalangan Santri
Dari sekian banyak putra KH. Mahrus Aly, hanya Buya Kafa yang diajak oleh KH Dimyathi Ro'is membacakan Al-Qur'an untuknya, namun dengan syarat ia tidak boleh menceritakan kepada siapa pun tentang Al-Qur'an miliknya.
Cara KH Dimyathi Ro'is mengajarkan Al Quran kepada Buya Kafa sangat unik. dimana KH Dimyathi Ro'is mengajari Buya Kafa tidak terbatas pada ruang dan waktu.
KH Dimyathi Ro'is mengajari Buya Kafa Al-Qur'an di mana-mana, ketika di sawah dia juga mengaji di sawah, ketika di kolam dia juga mengaji di kolam. Dengan hanya berbekal badan dan pakaian yang Buya Kafa kenakan, Buya Kafa sudah siap mengikuti perintah gurunya. Setiap kali, Buya harus berdiri dan menunggu amanat dari gurunya.
Baca Juga: Makna Jawa Pegon Matan Jurumiyah Bab Kalam dan Pembagiannya Cocok untuk Belajar Santri
Suatu hari Buya Kafa diajak KH Dimyathi Ro'is untuk berziarah ke makam Sunan Ampel, tiba tiba dia diberitahu bahwa nantinya Buya Kafa sendiri akan menjadi penerus KH. Mahrus Ali, seketika Buya Kafa kaget ketika mendengar hal itu, beliaupun langsung bergegas pulang dan memberi tahu ayahnya.
Di usia yang relatif muda kurang lebih 25 tahun Buya Kafa memiliki amanah yang cukup besar, yaitu melanjutkan perjuangan ayahnya untuk menyediakan sebuah pondok pesantren.
Buya Kafa menikahi Seorang wanita shalehah dari Cirebon, Ny. hj. Azzah Nur Laila yang dipilih oleh KH. Mahrus Aly sebagai menantunya Pada tanggal 30 September 1985.