Sasampunipun lulus saking militér, Tarmizi lajeng dipuntugasaken minangka Sekjen Dhepartemen Agami Républik Indonésia ngantos gangsal taun dangunipun, sadèrèngipun njabat mantri nalita taun 1993. Nalika dados Mantri Agami, kalih inisiatif wigati ingkang naté dipunwontenaken inggih punika ngembangaken Siskohat ("sistem komputerisasi haji terpadu") lan madhegaken Dana Abadi Umat (DAU). Sasampunipun boten njabat mantri malih, Tarmizi naté njabat pinten-pinten kalungguhan kados dados utusan ageng kanggé Nurwègen lan Èslan. Panjenenganipun pikantuk gelar Dhoktor Honoris Causa ing babagan dakwah déning Universitas Islam Negeri Syarif Hidayatullah, Jakarta.