Eski adı Gercanis olan Refahiye 1884 yılında ilçe olmuştur.

O tarihte Erzincan Mutasarrıfı olan şefik Paşa bu bölgeye geldiğinde buranın ormanın, suyunun ve havasının güzelliği dikkatini çeker.

Bunun üzerine yabancı olan Gercanis adını kaldırarak “refah yer" manasına gelen “Refahiye" adını verir. Bu tarihten itibaren isimde içbir değişiklik olmamıştır.

Erzincan yöresi ile aynı yönetimler altında yaşamıştır. Cumhuriyetimizin kurucusu Atatürk Milli Mücadele’nin başladığı günlerde 29 Haziran 1919 tarihinde ilçemize gelerek bir gece konaklamış ve 30 haziran 1919 tarihinde ilçemizden ayrılmıştır.

İlçe Erzincan'a 71 km uzaklıkta, 1744 kilometrekare yüzölçümüne sahiptir.

Refahiye, batısındaki çam ormanları ve merkezden 10 km mesafede Soğukgöze ve Karaçam mevkileri arasında yer alan, yüksekliği 2 bin metre olan Dumanlı yaylaları, soğuk su kaynakları, göleti, piknik alanları ve kayak imkanları ile yaz ve kış turizmi açısından önem taşımaktadır.

Her yıl Ağustos ayında bal festivali düzenlenmektedir. Ekonomisi toprak ve tarım ürünlerine dayanmaktadır. Çavdar, bakliyat ve ceviz bolca yetiştirilir.