Tarihi kaynaklar seyit olduğunu söyler. Tapu tahrir defterlerinden adına kayıtlı vakıflar bulunduğu bilinir. Hicri 793 tarihinde ya da daha öncesinde vefat ettiği arşiv kayıtlarından anlaşılmaktadır. Sözlü kaynaklarda anlatılan menkıbeye göre, Abdurrahman-ı Erzincani’nin yayladaki çadırına bir grup Moğol askeri gelir. İçlerinde bulunan komutan aç susuz olduklarını belirterek şeyhin ikramını bekler.
Bu sırada uzaktan geçmekte olan bir geyik sürüsünden iri ve semiz bir geyik ayrılarak çadıra yaklaşır. Çadırda oturan şeyhin önüne gelir. Şeyhi koklamaya ve yüzünü dizlerine sürmeye başlar. Moğol askerleri bu durumu hayretle izler. Bunun üzerine Şeyh’in emri ile geyik kesilir, askerler için yemek hazırlanır. Askerlerin tümü doyar. Bu kerameti gören bütün Moğol askerleri Şeyh’in önünde saygıyla eğilerek Müslüman olurlar. Abdurrahman-ı Erzincani’nin türbesi, günümüzde önemli ve saygın bir ziyaret yeridir. Türbeyi ziyaret edenler Fatiha okurlar; halı, seccade bırakırlar. Genellikle cuma akşamları getirilen hastalar türbede kısa bir süre uyurlar. Dilekleri gerçekleşen ve iyileşenler kurban keserler. Türbede hatim ve mevlit okutanlar da vardır. İnsanlar bu ziyarete genellikle ruhsal bozukluklarını iyileştirmek için gelirler. Yörede, ruhsal bozukluğu olanların türbede belli bir süre yattıktan sonra tamamen iyileştikleri anlatılmaktadır. Ayrıca türbe çocuğu olmayanlar ve bozulan işlerinin düzelmesini isteyenler tarafından da ziyaret edilir.