Bazı araştırmacılar,Kelkit Çayı’nın Antik Çağ’da Helen dilinde “kurt” anlamına gelen Lykos şeklinde ifade edildiğini belirtmektedirler. Onlara göre bu kelime daha sonra Ermenice’ye tercüme edilerek “gail-get” olarak söylenmeye başlanmıştır,ardından da Kelkit’e dönüşmüştür.
Bir başka hakim görüş ise Kelkit isminin VII. Yüzyılda yöreye gelip yerleşen Peçenek Türklerinden Kilki Beyden geldiği görüşüdür. Kelkit’in Kilki Beyin çiftliği olarak anıldığı rivayet edilmektedir ki Kelkit ilçe merkezinin diğer bir adı da Çiftlik’tir.
Bazı araştırmacılar ise,ilk çağlarda yörede “Kerkit” adında bir halkın yaşadığına dikkat çekmektedirler. Kelkit 13. yüzyılın ortalarından 16. yüzyılın başlarına kadar geçen sürede çeşitli boy, ulus ve devletlerin birbirlerine üstünlük kurma mücadelelerine sahne olmuştur. Bunlardan özellikle Karakoyunlu-Akkoyunlu mücadelesi yörede büyük tahribata yol açmıştır.Osmanlı Padişahı Yavuz Sultan Selim Çaldıran Zaferi (1514) dönüşü Bayburt ve çevresiyle birlikte tamamen Osmanlı topraklarına katmıştır Padişah Safevilere karşı Osmanlıların yanında yer alan Akkoyunlu Feruhşad Bey’e Bayburt ve Kelkit çevresinde geniş iktalar vermiştir. 16. Yüzyıl Tapu Tahrir ve ve Evkaf defterlerinde yapılan incelemelerde Kelkit-Sadak nahiyesinin Bayburt Sancağına bağlı olduğu incelenmiştir. Bölgenin Osmanlı devletinin doğu sınırını oluşturmasından kaynaklanan stretejik önemi ülke sınırlarının genişlemesine paralel olarak 16. yüzyılın sonlarına doğru gittikçe azalmaya başladı. İdari olarak bir süre Diyarbakır eyaletine dahil edilen Kelkit ve çevresi, 1535 yılında yeni kurulan Erzurum Beylerbeyliği’ne bağlandı. Tarihi kayıtlardan bu idari yapının yaklaşık üç yüzyıl sürdüğü anlaşılmaktadır. İlçe XIX. Yüzyıl başlarından itibaren önemli olaylara sahne olmuştur. Bayburt ve Gümüşhane çevresi 1828-1829 Osmanlı-Rus savaşının galibi olan Ruslar tarafından bir süre işgal edilmiş, bu olay yörenin göç vermesine neden olmuştur.1840 tarihide ilçe statüsüne kavuşmuştur. Bu yüzyılda bölgeyi yakından ilgilendiren önemli olaylardan biri de idari yapıda meydana gelen değişikliklerdir. Tanzimat döneminde Osmanlı idari teşkilatında eyalet sisteminden büyük vilayet sistemine geçilmesiyle birlikte (1867) Gümüşhane Trabzon vilayetine bağlı bir sancak merkez merkezi haline gelmiş, ardından Kelkit Kazası Erzincan sancağından alınarak buraya bağlanmıştır (1868). Bu bağlılık fazla uzun sürmemiş; kaza, Doksan üç Harbi’ni (1877-1878) Osmanlı –Rus Savaşı) ardından 1878 yılında yapılan yeni bir düzenleme ile Erzurum Vilayetine bağlı Bayburt sancağına dahil edilmiştir.Son olarak 1888 yılında alınan bir kararla Gümüşhane’ye bağlanmış böylece XIX yüzyıl boyunca Bayburt, Gümüşhane ve Erzincan sancakları arasında yaşanan idari sınır değişikliklerine son nokta konmuştur.Nitekim bu idari statü Cumhuriyet döneminde Gümüşhane’nin il olmasından (1924) sonrada devam etmiştir.I. Dünya savaşı yıllarında Rus işgaline uğrayan ilçe 22 Temmuz 1916’da başlayan bu işgal dönemi, 17 Şubat 1918’de son bulur. alıntı