Kemah, Kuzeyinde Refahiye, Güneyinde Ovacık, Batısında İliç, Doğusunda ise Erzincan ile çevrilidir.

İlçenin güneyinde çok sarp ve yalçın kayalardan meydana gelen Munzur Dağları uzanır. Kuzeybatısında Karadağ, Çölen Dağı ve Vank Dağları vardır. Kemah'da coğrafi yapının en belirgin özelliği arazinin engebeli olmasıdır. Geniş ve düz arazi yok denecek kadar azdır. İlçenin en önemli akarsuyu Fırat nehrinin bir kolu olan ve İlçe Merkezinden geçen Karasudur. Bundan başka Karasu'ya karışan bir çok çay varsa da bunların büyük bir kısmının Eylül ayından sonra suları kesilmektedir.

Kemah İlçesinde Kara iklimi hakim sürmektedir. Yazları kurak ve sıcak, kışları ise soğuk ve yağışlıdır. Yıllık ortalama yağış miktarı 11,6 cm. , yıllık ortalama sıcaklık ise 12,3 derecedir. İlçenin tabii bitki örtüsü steptir. İlkbaharda yeşerip yazın sıcakların etkisiyle kuruyan otsu bitkilerdir. Çevredeki dağlar genellikle çıplak ve ağaçsızdır, yer yer meşelikler mevcut olup, İlçenin Refahiye sınırı yakınında bir miktar orman vardır. Çay kenarlarında yer yer kavak ve söğüt ağaçları vardır.