Rıfat Mehmed, Kars’ın Kaleiçi Mahallesi’nin Kümbet cami semtinde doğmuştur. Babası, Süleyman Şâdî’nin amcasının oğlu ve hocası olan fuhûl-i ulemâdan müderris Hacı Raşit Efendi’dir. Annesi, Kars’ın ileri gelen ailelerinden Azatlı-zâdeler’den Saime Hanım’dır.
Rıf‘at Efendi, Kars’ta babası Hacı Raşit ve Sultanım-zâde Hacı İbrahim Efendilerden okuyup, tahsilini tamamlamıştır. Fıtraten zeki ve cevval olan merhum Rıf‘at Efendi, daha çocuk denilecek yaşta iken şiir yazmak ve arkadaşlarıyla ilmî müsabakalara girişmek gibi fevkalâdelikler gösterdiğinden, babası tarafından tahsiline çok ihtimam edilmiş; hukuk ve ferâiz ilimlerini mükemmel öğrenip bu hususta teferrüd etmiştir. Eskiden Hukuk Mahkemeleri âzâları, hukuk ilmine vakıf kimselerden seçilerek tayin edilmekte olduğundan, 1293/1876 Rus savaşını müteakiben Erzurum'a göçtü. Burada Şehir Hukuk Mahkemesi'ne aza seçildi. Yabancısı bulunduğu bu vilayette Şehir Hukuk Mahkemesi’ne âzâ seçilmiş olması, bu sahadaki ihtisas ve ilmî iktidârının açık bir göstergesidir.
Eserlerinin büyük kısmı göç sırasında zayi olmuştur. Eldeki eserleri şunlardır:
1. Dîvân: Yazma hâlinde bulunan Dîvân'ı MK Yz FB No: 234'tedir.
2. Mîzânü'l-Hukûk: Yazma hâlinde bir risaledir.
Kars'ın Ruslar eline düşerek anlaşmada elimizden çıkmasına dair yazdığı 93 Kars Ağıtı meşhurdur.
Rif'at Efendi'nin şair Karslı Hâmid Efendi ile arkadaş oldukları, birbirlerine nazire yazdıkları bilinmektedir.
Rıf‘at Mehmed Karslı, Kars’tan Erzurum’a hicret geldikten sonra burada çocuğu olmayan refikası vefat ettiğinden, Erzurum’dan evlenmiş, adlî ve mülkî birçok memuriyetlerde bulunup, en sonra Reji İdaresi’nde memur iken 1893 tarihinde vefat etmiştir. Mezarı Doğubeyazıt’tadır.
İki oğlu olmuştur. Büyük oğlu, 1921’den 1931 yılına kadar Kars’ın Vakıflar Müdürlüğü’nde bulunarak, bu memuriyeti sırasında resmî vazifesinden başka Hilâl-i Ahmer, Himâye-i Etfâl, Türk Ocağı, Tasarruf ve İktisat ve Maarif cemiyetleri gibi millî teşekküllerde de hizmetleri geçen ve Erzurum Vakıflar Müdürlüğü’nde de görev yapmış olan Talât Aksoy’dur. Bundan iki yaş küçük olan diğer oğlu, Harbiye Mektebi’nden piyâde mülâzım-ı sânî (teğmen) rütbesiyle 1905 yılında mezun olan, Balkan Harbi’ne ve sonra da mülâzım-ı evvel (üstteğmen) rütbesiyle de I. Dünya Savaşı’na katılan ve 1914 yılındaki Sarıkamış hücumunda şehit olan Mithat Bey’dir.