Doğal koşullarının ve coğrafi konumunun elverişliliği yanında, önemli uygarlık merkezlerine yakınlığı, Erzurum'un Anadolu'daki en eski yerleşim merkezlerinden biri olmasını sağlamıştır. Ortaya çıkan bazı taş aletler yöredeki geçmişin Yontma Taş Çağı'na kadar uzandığını göstermektedir. Karaz, Pulur, Güzelova ve Sos buluntuları; Erzurum'un İlk Tunç Çağı'nda geniş bir coğrafyaya yayılan Karaz Kültürü'nün merkezi olduğunu kanıtlamaktadır.
Anadolu'nun en eski devletlerinden biri olan Hititler'in sınırında yer alan bölge, pek çok savaşa ve istilaya uğramıştır. MÖ 3000'den sonra sırasıyla Hurriler, Hayaşalar, Urartular, Asurlar, Kimmerler. İskitler, Medler, ve Perslerin egemen olduğu bölgeyi MÖ 4. yüzyılda Makedonya Kralı İskender ele geçirmiştir. İskender'in ölümü ile Selökidler ve sonrada Roma İmparatorluğu'nun hüküm sürdüğü bölgede, Romalılarla Partlar arasında kanlı savaşlar meydana geldi. Roma'nın bölünmesiyle 395'te Bizans İmparatorluğu'nun payına düşen Erzurum, Bizanslılar ile Sasaniler arasında bir kaç kez el değiştirmiştir. Bu sırada Karadeniz'in kuzeyinde kurulan Hun Devleti, Suriye gibi zengin ve sıcak ülkeye yönelik akınlarda Erzurum havalisini ele geçirdiler. I. Theodosius'un ölümünden sonra, Batı Hunlarının doğu bölümü tarafından gerçekleştirilen akınların, başbuğları Kursık ve Basık idiler. 295 - 398 yılları arasında meydana gelen Hunlar'ın istilası, tarihte Anadolu'ya ilk Türk girişini temsil etmektedir.
Theodosiopolis'in Kuruluşu;
Roma İmparatorluğunun ikiye bölündüğü 4. yüzyılda Erzurum'un yerinde Karin adında bir şehir, Erzurum Ovası'nın batısında ise Erzen adıyla ikinci bir şehir bulunmaktaydı. Bölgeyi Hunlardan geri alan Bizans İmparatoru II. Theodosius'in (408 - 450) doğudaki generali Anatolius, İran'dan gelecek saldırılara karşı 412 ve 415 yılları arasında Karin'in bulunduğu bölgenin en stratejik yerine kale inşa ettirdi ve şehrin adını "Theodosiopolis" olarak değiştirdi. Böylece günümüze kadar ulaşan şehrin temelleri atılmış oldu.
Kalikala, Erzen ve Erzen-i Rum;
H.Z Ömer zamanında 638'de İyas oğlu Ganem komutasındaki İslam ordusu Erzurum'u ele geçirdi. Fakat Arapların şehre tam olarak yerleşmesi mümkün olmadı. Erzurum 949 yılına kadar Bizans İmparatorluğu ile Emevi ve Abbasiler'den oluşan Müslüman Araplar arasında pek çok kez el değiştirmiştir. Müslüman Araplar 949 yılında Bizans İmparatorluğu ile yaptıkları savaşı kaybedince bölgedeki hakimiyetlerinde tamamen yitirmişlerdir.
Müslümanlar Theodosiopolis'e "Halı Şehri" anlamına gelen "Kalikala" ismini verdiler. 7. yüzyılda nüfusu 200 bine yükselen Erzurum, o dönemde dünyanın en büyük şehirlerinden birisi konumundaydı. 1048'de Doğu Anadolu bölgesini fethetmek üzere Bizans topraklarına giren Selçuklu Türkleri, Erzurum Ovası'nın batısındaki Erzen'i ele geçirdiler. Saldırılar sonucu harap olan Erzen'den kaçan halk Kalikala'ya sığınarak buranın adını Erzen olarak değiştirmiş, harap olmuş asıl Erzen'e Türkler, Kara Erzen ve zamanla Karaz adını vermişlerdir. Yeni Erzen ise Erzen-i Rum ve Erzurum ismine dönüşmüştür.
Erzurum'da Türk Hakimiyeti;
1071 Malazgirt Zaferinden sonra Selçuklu Sultanı Alparslan'ın komutanlarından Kasım'ın Bizanslılar'ı yenerek Erzurum'u fethetmesiyle şehir tekrar Müslümanların hakimiyetine geçti. Malazgirt Zaferinden sonra Sultan Alp Arslan, Erzurum ve çevresini Ebûl-Kâsım Saltuk'a ikta olarak vermiş, Erzurum ve çevresinde kurulan Saltuklular Anadolu'da kurulan ilk Türk beyliği özelliğini taşımaktadır. 1242'de Moğollar'ın eline geçen bölge, 1335 yılına kadar İlhanlı egemenliği altında kaldı. İlhanlılar dağılınca Erzurum ve çevresi Eretna Türk beyliğine geçti. 14. yüzyıl sonlarında Karakoyunlular ve sonra Timur, Erzurum'u ele geçirdi. 15. yüzyıl ortalarında Akkoyunlular, 1502'de Safevi Hanedanlığının kurucusu Şah İsmail tarafından ele geçirilen şehir bu dönemde oldukça geriledi. 1514 yılında Yavuz Sultan Selim Erzurum'u fethetti. Ancak Safeviler Erzurum'u geri alınca, Kanuni Sultan Süleyman, çıktığı doğu seferinde Erzurum'u kesin olarak Osmanlı topraklarına kattı. Erzurum bu Fetihten sonra Türk yurdu olarak günümüze geldi.
Erzurum I. Dünya Savaşında işgal edilen Anadolu'nun kurtuluşu için başlatılan mücadelede kritik rol oynadı. 3 Temmuz 1919'da Erzurum'a gelen Mustafa Kemal Atatürk, 23 Temmuz 1919'da Anadolunun değişik illerinden gelen 56 delege ile birlikte Erzurum Kongresini düzenlemesi ile Milli Mücadelenin en ciddi adımı atıldı. Milli Mücadelenin sonunda Türkiye Cumhuriyeti 29 Ekim 1923 tarihinde kurulurken, Erzurum'da bu genç Cumhuriyetin en önemli şehirlerinden biri olarak yerini aldı.
Milli mücadele, milli birlik ve bağımsızlık hareketinin temelinin atıldığı Kongre 23 Temmuz 1919 da Erzurum'da toplamıştır.