Erzurum’un 2,5 km güney doğu istikametinde, Palandöken Şiğveler tepesi yamacındadır. Erzurum ovasına ve bu ovayı çevreleyen dağlara hâkim bu meyilli saha şehrin mesire yerlerinden biridir.
Gerek türbenin önemi ve gerekse buranın manzara ve hava bakımından güzelliği, yaz günlerinde Erzurum halkını türbeyi ziyarete mecbur eder. Şehir halkı bu güzel sahada, çiçekler arasında piknik yapar, eğlenir ve namazlarını türbe camiinde kılarak türbeyi ziyaret ederler.
Türbenin duvarları kesme taştan yapılmıştır. Türbenin üstü ortadan kemerli iki kubbe ile örtülmüştür. Türbe kubbelerden açılan iki pencereden ışık almaktadır. Yan tarafında da iki penceresi vardır. Türbenin doğu ve batısında iki giriş kapısı bulunmaktadır. Doğu kapısından bayanlar, batı kapısından erkekler türbeyi ziyaret ederler.
Kubbelerin altında 4,85 metre uzunluğunda sarıklı serpuşlu baş taşı bulunan, taştan yapılmış sandukalı tek mezar vardır. Sandukanın hiçbir yerinde kitabe yoktur. Sanduka da türbe ile beraber yapılmıştır.
Daha önceleri türbeye bitişik olarak yapılan Ahmet İzzet Paşa’nın yaptırdığı caminin içinden girilirdi. Bu camii türbeden sonra yapılmıştı. Cami harap olunca yıkılmış, yeniden kubbeli ve minareli güzel bir cami yapılmıştır.
Abdurrahman Gazi hakkında kesin bilgi mevcut değildir. Türbe kapısının üstündeki taşta devrinin neshi üslubu ile yazılmış on altı mısralık bir tarih kitabesi vardır. Kitabeye göre türbeyi Erzurum Valisi Yusuf Ziya Paşanın eşi Ayşe Hanım H.1211, M.1796 yılında yeni baştan yaptırmıştır. (Yusuf Ziya Paşa 1794-1797 üç sene Erzurum’da valilik yapmıştır.)
Kitabede türbenin bulunduğu yerin havasının ruh açıcı, manzarasının gam dağıtıcı ve suyunun Zemzem olduğu ifade edilmiştir.
Kitabede şöyle denmektedir:
Teâlallah ne ziba tarh bulmuş cây-i dil-keştir.
Cemal-i cümleye âyine vâr-i hüsn-ü ân her câ
Mücessem nûrdan tasvirdir ya beyt-i ma’murun
Ya mirât-i zeminde aks-i Gülzârr-i cinân-âsâ
Cenab-ı Hazret-i YUSUF ZİYA Paşay-i rezm-âyin
Ki Valiy-i ERZURUM hem madin-i kân-i Kerem hakka
Halilesi cenab-i AYİŞE Hanım ki tevfikle
Bu cây-i dil-keşi imâr idüb ber tarh-i nev-peydâ
İdüb mimar-i akl-i hidmet-i tamirine memur
Güzel üslub-i mergup üzre bünyad eyledi hakkâ
Cenab-ı çar-i yar-i güzinin aşkına SALİM
İki beyitde cevherdâr ki dört tarih didi hâlâ
Havası ruh-feza resmi ki gam-fersa suyu Zemzem
Acayip dil-küşa cennet şerefi tarhıyla dır câna
Yeni i’mâl edildi kabr-i GÂZİ ABDÜRRAHMAN kim
Hitam buldu ki pek güzel ne râna tarihçe-i Ruh-efaz.
Sene 1211
Manzum kitabeyi SELİM EFENDİ isminde bir zatın hazırladığı anlaşılmaktadır.
Abdurrahman Gazi Hazretlerinin kimliği bilinmemekte olup, birçok rivayetler vardır. Bütün araştırmacıların söylediği “Müslümanlığın Anadolu’da tebliğ edildiği yıllarda, Erzurum’u kuşatmaya gelmiş İslam ordusunda bulunan Abdurrahman Gazi ismindeki şehit olan bahtiyar zatın türbesidir.