Volgens aanwezige bronnen strekt de geschiedenis van Bayburt zich uit tot 3000 voor Christus. De stad is gesticht door de Azzi.
Xenophan schreef in zijn boek genaamd Anabasis, dat Bayburt een drukke en rijke stad was. Toendertijd droeg Bayburt de naam Gymnias en is een Iskit stad. De Iskit waren de door ons Saka genaamde Turken.
Zoals de huidige naam Bayburt ons bekend is, werd deze volgens middeleeuwse Armeense bronnen Payberd, volgens Byzantijnse bronnen Payper, Baberd, Paypert genoemd. Tegen het einde van de dertiende eeuw noemde Marco Polo, tijdens zijn doortocht door het gebied, de stad Painpurth en Baiburt in zijn beschrijvingen. Volgens Arabische bronnen heette de stad Babirt.
Na een bezoek door Evliya Çelebi in 1647 beschreef hij de stad met 2 woorden, namelijk Bay ,wat rijk betekent en Yurt, wat streek of land betekent. Volgens de Ottomaanse bronnen werd de stad, net zoals vandaag de dag uitgesproken wordt, Bayburt genoemd.