Adnan Yılmaz, 29 Ekim 1953’te Erzurum Hasankale’de doğdu. Babasının adı Mustafa, annesinin adı Fatime’dir. Atatürk Üniversitesi Kazım Karabekir Eğitim Fakültesi Türk Dili ve Edebiyatı Bölümünü bitirdi. Erzurum Belediyesinde göreve başladı. 1973’te Türkiye Zirai Donatım Kurumu (TZDK) Ankara Bölge Müdürlüğüne atandı. TZDK Erzurum Bölge Müdürlüğünde Personel Şefi, Bölge Müdür Yardımcısı ve 1992’de Erzurum Bölge Müdürü oldu. Sanayi ve Ticaret Bakanlığı Teşkilatlandırma Genel Müdürlüğünde Daire Başkanı olarak görev yaptı.
AdnanYılmaz, Yirmi Dördüncü dönem Erzurum Milletvekili seçildi.