Artık Anadolu'ya geçerek Millî Mücadele bayrağını açmak gerekiyordu. İşte bu sıralarda, Mustafa Kemal Paşa'yı İstanbul'dan uzaklaştırmak amacıyla, kendisine Dokuzuncu Ordu Müfettişliği teklif edildi. Mustafa Kemal Paşa, kendisine geniş salâhiyetler tanıyan bu vazifeyi kabul etti.
16 Mayıs 1919 günü Bandırma vapuru ile İstanbul'dan hareket eden Mustafa Kemal Paşa,19 Mayıs 1919 sabahı Samsun'da Anadolu topraklarına ayak bastı. Kendisinin Anadolu'ya gönderiliş gerekçesi, Samsun ve çevresindeki asayişsizliği yerinde görüp incelemek ve tedbir almaktan ibaretti. Hükûmete verilen İngiliz raporlarında, bu bölgede Türklerin, Rumlara karşı gerilla hareketine giriştikleri ve bölgenin asayişini bozdukları bildirilmekte ise de durum tam tersine idi. Bu bölgede, Pontus Rum Devleti kurma amacına yönelik geniş bir Rum faaliyeti vardı. Baskı gören Rumlar değil, Türklerdi. Rum Patrikhanesinden idare edilen Mavri Mira Cemiyeti bu bölgede kurduğu çeteler vasıtasıyla Türk köylerini basıyor, katliamlar yapıyor, yerli halkı yıldırmak istiyordu. Bu girişimlere karşı vatansever Türkler de mukabil çeteler oluşturmuşlar; bölge Rumları ile mücadeleye başlamışlardı. Bütün bu gerçeklere rağmen Mustafa Kemal Paşa'ya verilen talimat gereğince bölge Türklerinin direnmeleri önlenecekti. Mustafa Kemal Paşa, görevi kabul için Ordu Müfettişliği sıfatı ve geniş salâhiyetler istedi. İstanbul Hükûmeti bu istekleri de kabul etti.
Saray ve İstanbul Hükûmeti, Mustafa Kemal Paşa'nın bu görevi yapacağını zannetmişti. Oysaki Mustafa Kemal'in düşünceleri tamamen başka idi. Ama bu görev, kuşkuları çekmeksizin Anadolu'ya geçmek için değerlendirilmesi gereken bir fırsattı. Kendisine verilen yetkileri de, geri alınıncaya kadar milletin menfaatleri adına kullanmak vicdanî bir davranış idi. Esasen olayların akışı da kısa zamanda bunu ispatlayacaktı. Mustafa Kemal Paşa, İstanbul'dan ayrılmadan önce başta sadrazam olmak üzere kabine azalarının hemen hepsi ile ve en sonunda Padişah'la görüşmüştü. Fakat bu kişilerin hiçbirinde memleketi içinde bulunduğu badireden kurtaracak bir enerji, bir ümit ışığı görmemiş, görememişti. İstanbul Hükûmeti'nin ve Padişah'ın davranışlarında İtilâf Devletleri'ni gücendirmemek görüşünün ağır ezikliğini hissetti. Oysaki onların kararlarına uymak değil, karşı koymak lâzımdı. İşte Anadolu'ya bu gaye ile gidiyordu. Mustafa Kemal Paşa'nın İstanbul'dan ayrılırken yakın arkadaşlarına söylediği şu sözler bu bakımdan büyük önem taşımaktadır: "Düşman süngüsü altında millî birlik olamaz. Ancak hür vatan topraklarında memleketin istiklâli ve milletin hürriyeti için çalışılabilir. Bu gayeyi tahakkuk ettirmek üzere Anadolu'ya gidiyorum".
Mustafa Kemal Paşa, Anadolu'ya geçer geçmez plânını uygulamaya başladı. 21 Mayıs 1919'da Kâzım Karabekir'e telgraf çekti. Telgrafta bu davranışını şöyle belirtiyordu: "Umumî durumumuzun aldığı vahim şekilden pek müteessirim. Millet ve memlekete borçlu olduğum en son vicdani vazifeyi yakından müşterek çalışma ile en iyi şekilde yerine getirmek mümkün olacağı kanaati ile bu son memuriyeti kabul ettim".
Mustafa Kemal Paşa, Samsun'a çıktıktan 2 gün sonra, 21 Mayıs 1919'da Genelkurmay Başkanlığına Samsun ve çevresindeki asayişsizliğin sebeplerini açıklayan İstanbul Hükûmeti'nin ve İtilâf Devletleri temsilcilerinin hoşlanmadığı şu telgrafı çekti: "Rumlar bu bölgede, Pontus Hükûmeti teşkili gibi bir safsata etrafında toplanmış ve Rum çeteleri hemen kâmilen siyasî bir şekle dönüşmüştür". 22 Mayıs 1919'da Samsun'dan Sadaret'e gönderdiği raporu da şu cümle ile noktaladı: "Millet birlik olup hâkimiyet esasını, Türklük duygusunu hedef almıştır". Bu anlamlı ifadede Anadolu'da beliren Milli Mücadele azmini sezmemek mümkün değildir. İşte bu raporlar İstanbul'a geldikten sonradır ki İtilâf Devletleri temsilcileri İstanbul Hükûmetinden sordu: "Tanınmış bir Türk generalinin Anadolu'da ne işi vardır?" Bunun üzerine İstanbul Hükûmeti, Anadolu'ya gönderdiği müfettişi geri çağırma girişimlerine başladı
Artık, Anadolu'da başlayan Millî Mücadele, liderini bulmuş, dağınık ve bölgesel mukavemetler bir bayrak altında toplanmaya başlamıştı. Bunun ilk örneğini 22 Haziran 1919'da Mustafa Kemal imzasıyla Amasya'dan bütün memlekete duyurulan bir tamimde görüyoruz. Bu genelgede kutsal bir ses işitiliyordu: "Vatanın bütünlüğü, milletin istiklâli tehlikededir. Milletin istiklâlini yine milletin azim ve kararı kurtaracaktır". Bu cümleler Milli Mücadele'nin örgütlü olarak fiilen başladığının onun imzası ile bütün cihana ilânı idi. Bu genelge diğer bir maddesiyle beliren millî tehlike karşısında izlenecek ilk yolu da belirtiyordu: "Her vilâyetten seçilecek milletin güvenini kazanmış delegelerle, Anadolu'nun en emin yeri olan Sivas'ta derhal bir millî kongre toplanacaktır".


Mustafa Kemal Paşa, Amasya Tamimi adıyla ünlü bu genelgesini yaptıktan sonra Erzurum'a geçmek üzere 27 Haziran 1919'da halkın sevinç gösterileri arasında Sivas'a geldi. Şehirde kaldığı 1 günlük süre içinde, Erzurum Kongresi'ni takiben Sivas'ta yapılacak Kongre için ilgililere gerekli direktifleri vererek Erzurum'a hareket etti. Atatürk, 3 Temmuz 1919 günü Erzurum'a geldi. Kendisi der ki "Benim Erzurum'a gelişim, bütün milletin ateşten bir çember içine alınmış olduğu bir zamana tesadüf etti. Bütün millet bu çemberin içinden nasıl çıkılacağını düşünmekte idi".15 Temmuz 1919 günü Ilıca önlerinde Erzurumlular tarafından coşkun bir şekilde karşılandığı zaman Çukurova'da muhacir olarak bulunup Erzurum'a dönen ihtiyar Mevlüt Ağa ile aralarında geçen konuşma, bu ateşten çember içinden mutlaka çıkılması gerektiği fikrini Atatürk'te daha da perçinledi. İhtiyar, fakat dinç Mevlüt Ağa'ya Mustafa Kemal Paşa sordu: - Çukurova gibi verimli bir memleketten niye döndün? Yoksa geçinemedin mi? Mevlût Ağa derhal cevap verdi: - Hayır Paşam, geçimimiz çok rahattı. Son günlerde işittim ki İstanbul'daki ırzı kırıklar, bizim Erzurum'u Ermenilere vereceklermiş. Geldim ki göreyim, bu namertler kimin malını kime veriyorlar?
Bu sözler, milletle beraber, millet için çalışmak üzere Erzurum' a gelen Mustafa Kemal Paşa'yı çok duygulandırmış, gözlerini yaşarmıştı.Etrafındakilere döndü ve : -Bu milletle neler yapılmaz.
Atatürk, Erzurum'a gelişinden 5 gün sonra,8/9 Temmuz 1919'da "Sine-i millette bir ferd-i mücahit olarak çalışmak üzere" çok sevdiği askerlik mesleğinden ve görevinden istifa etti. Artık, bir millet ferdi olarak, milletten kuvvet, kudret ve ilham alarak tarihî vazifesine devam ediyordu.
Askerlikten istifasını takiben Erzurumluların isteği üzerine Vilâyat-ı Şarkiye Müdafaa-i Hukuk-u Milliye Cemiyeti Erzurum Şubesinin Heyet-i Faale Başkanlığına getirildi. Cemiyet, o günlerde daha evvelce alınan bir karar gereğince doğu illerini kapsayan bir kongrenin hazırlıkları içinde idi. Mustafa Kemal'in Heyet-i Faale Reisi olarak bu kongreye iştiraki mümkündü; fakat O, bu kongreye özellikle Erzurum'dan üye olarak iştirak etmek istiyordu. Ne çare ki Erzurum üyeleri evvelce seçilmişti; ama buna daBBir çözüm bulundu. Erzurum'un iki değerli evlâdı, Kâzım Yurdalan ve Cevat Dursunoğlu Erzurum üyeliğinden istifa etmek suretiyle yerlerini Mustafa Kemal ve Rauf Bey'e bıraktılar. Bu suretle Mustafa Kemal Paşa'nın kongreye girişi meşruluk kazandı.
Erzurum Kongresi, 23 Temmuz 1919'da tek katlı bir ilkokul salonunda 62 delegenin iştirakiyle toplanmıştı. Kongre, bir kurucu meclis gibi çalışarak 14 gün devam etti ve 7 Ağustos 1919 da çalışmalarına son verdi. Kongre'yi geçici başkan olarak Erzurum delegelerinden Hoca Raif Efendi açmış, delegelerin isim okunarak yoklaması yapıldıktan sonra başkanlık seçimine geçilmişti. Yapılan oylamada Mustafa Kemal Paşa, başkan seçildi.
Millî Mücadele'ye bayrak olan bir kongrenin Erzurum'da toplanışı bir tesadüfün eseri değildi; Mondros Mütarekesi'nden sonra müdafaa şuurunun en keskin bir şekilde meydana çıktığı bölgelerden biri Erzurum idi. Zira Mütareke hükümlerine göre asırlarca şehit kanıyla sulanmış Erzurum topraklarını da içine almak üzere bir Ermenistan kurulması isteniyordu. Bu durum, bölgedeki millî birlik ve mukavemet şuurunu daha da bileyledi. Keza, Kongre'ye Doğu Karadeniz il ve kasabalarını temsil etmek üzere 17 delege ile iştirak eden Trabzon'da da Pontus tehlikesi vardı. Bölge Rumları, Mondros Mütarekesi'nden faydalanarak Doğu Karadenız şehirlerini kapsayacak bir Pontus Rum Devleti kurma hayali içindeydiler. Bu bakımdan Doğu Anadolu şehirleri ile tehlike müşterekti.
Erzurum Kongresi, güç şartlar altında toplanıyordu. Çünkü Kongre üyelerinin vilâyetlerce gerek seçiminde, gerekse seçilenlerin Kongre'ye gönderilmesinde büyük güçlükler çıkarılıyordu. Mülkî amirlerin büyük kısmı, İstanbul Hükûmeti'nin baskısı ile delegeleri korkutuyorlar, yola çıkmalarını engelliyorlar, hatta bazı vilâyetler kesin olarak delege göndermemekte direniyorlardı. Elâzığ, Diyarbakır ve Mardin illerinden seçilen üyeler valilik baskısı sebebiyle yola çıkmaktan alıkonulmuşlar, dolayısıyla Kongre'ye iştirak edememişlerdi. Bu sebeple Kongre'nin toplanabilmesi için Müdafa-i Hukuk-u Milliye Cemiyeti Erzurum Şubesinin gayretleri yanında Mustafa Kemal Paşa tarafından da ciddî teşebbüslerde bulunmak icap etti. Vilâyetlerin herbirine açık telgraflar gönderilmekle beraber, bir taraftan da şifre telgraflarla valilere, komutanlara gerektiği şekilde tebligatta bulunuldu. Nihayet yeteri kadar temsilci getirtilip Kongre'yi toplamaya muvaffak olundu.
İşte bu şartların oluşturduğu hava içinde gerçekleştirilen Erzurum Kongresi, Vilâyat-ı Şarkiye Müdafaa-i Hukuk-u Milliye Cemiyeti Erzurum Şubesi ile Trabzon Muhafaza-i Hukuk Cemiyeti'nin müştereken hazırladığı bir Kongre idi. O günkü mülkî taksimatta Trabzon'un kapsadığı Doğu Karadeniz il ve ilçelerinden 17, Erzurum'un kapsadığı il ve ilçelerden 25, Sivas'ın kapsadığı il ve ilçelerden 14, Bitlis'ten 4 ve Van'dan 2 delegenin iştiraki ile toplam 62 üye ile toplanmıştı. Bugünkü idarî taksimat göz önüne alındığı takdirde 30'a yakın Doğu Anadolu ve Doğu Karadeniz illerini ve bunların ilçelerini kapsamaktadır.
Erzurum Kongresi'nin toplanışı ve çalışmalarına başlamasıyla İstanbul da Saray ve Hükûmet tarafından, Anadolu'da yükselen bu kurtuluş sesini boğmak için yoğun bir faaliyet başladı. Ajanslarla Mustafa Kemal'in devlete başkaldıran bir asi olduğu, Erzurum Kongresi'nin kanunsuz toplandığı ilân edildi. Mustafa Kemal Paşa'yı tutuklamak için her türlü tedbire başvuruldu. İstanbul Hükûmeti, Erzurum Kongresi'nin dağılmasını, Kongre ye katılanların yakalanarak İstanbul Divan-ı Harbi'ne sevklerini emretti ise de millet fertlerini saran o zamanki millî hava içinde hiçbir makam bu emri yerine getirmeye teşebbüs edemedi.
İşte bu derece güç şartlar içinde gerçek bir vatan aşkıyla her türlü tehlikeyi göze alarak toplanan Erzurum Kongresi Türk tarihinde önemli bir dönüm noktası oldu. Türk Kurtuluş Savaşı'nın ilk temelleri bu Kongre'de atılmış, alınan tarihî kararlar Millî Mücadele'nin temel kurallarını oluşturmuştu. Erzurum Kongresi kararları şu şekilde özetlenebilir:
1- Doğu illeri ile Trabzon ve Canik sancağı hiçbir sebep ve bahane ile Osmanlı topluluğundan ayrılması mümkün olmayan bir bütündür. Bu demekti ki doğu illeri Ermenistan sevdasıyla, Karadeniz illeri Pontus hülyasıyla ana vatandan ayrılamayacaktır. Bu karar, vatanı ve milleti bölmek isteyenlere karşı ilk esaslı ihtardı.
2- Her türlü yabancı işgal ve müdahalesine karşı, millet birlik olarak kendisini müdafaa ve mukavemet edecektir. Bu madde ile milletin, her türlü işgal ve müdahaleyi kesin olarak reddettiği, birlik halinde direneceği bildiriliyordu. Vatan topraklarına yönelik hiçbir işgal ve müdahale, karşılıksız kalmayacaktı. Millet işgal ve istilâyı birlik halinde püskürtmeye kararlıydı.
3- Vatanın ve istiklâlin muhafaza ve teminine İstanbul Hükûmeti muktedir olamadığı takdirde, gayeyi temin için Anadolu'da geçici bir hükûmet kurulacaktır.
İstanbul Hükûmeti'nin hali ve tutumu belliydi; güçsüz ve beceriksizdi. Memleketi Mondros Mütarekesi ile kayıtsız şartsız galip devletlere teslim etmişti. Ülkeyi uçurumun kenarından ancak ve ancak millî iradeye dayanan bir hükûmet kurtarabilirdi; bu mutlaka gerçekleştirilecekti. Esasen Erzurum Kongresi bu amaca yönelik ilk adımdı.
4- Kuva- i Millîye'yi amil ve irade-i mılliyeyi hâkim kılmak esastır. Kuva-yi Milliyeden kasdedilen millî kuvvetler, milletin bağrından çıkacak millî bir ordu idi. Bu ordu, milletin kutsal gayesi uğrunda milletin arzu ve eğilimleri yönünde mutlaka zafere ulaşacaktı. Millî iradeyi hakim kılmak aynı zamanda demokratik bir esastı. Bu esasta Cumhuriyet rejiminin ilk kıvılcımlarını sezmemek mümkün değildi.
5- Hıristiyan azınlıklara siyasî hakimiyet ve sosyal dengemizi bozan imtiyazlar verilemez. Memleketteki azınlıklar yer yer siyasî egemenlik davasına kalkışmıştı. Memleket bütünlüğünü bozucu, vatanı parçalayıcı bu gibi davranışlara imkân verilmeyecekti. Azınlıklara sosyal dengemizi bozan ekonomik, hukuksal ve kültürel -her ne çeşit olursa olsun- ayrıcalıklar ve üstünlükler tanınmayacaktı.
6- Manda ve himaye kabul olunamaz. Türk milleti her şeyi göze alarak istiklâli için silâha sarılmıştı. Hiç kimseden lûtuf ve yardım beklemiyordu; yabancı devletlerden merhamet istemiyordu. Her ne pahasına olursa olsun istiklâl mutlaka gerçekleşecekti. Parola "Ya istiklâl ya ölüm" idi.
7- Millî Meclis'in derhal toplanmasına ve hükûmet işlerinin meclisin denetimi altında yürütülmesine çalışılacaktır. İtilaf Devletleri'nin baskısı ve Padişah fermanı ile kapatılmış olan Meclis derhal toplanmalı, hükûmetin millet ve memleketin mukadderatı ile ilgili vereceği her türlü karar böyle bir meclisin denetiminden geçirilmeliydi. Hükûmet kararları ancak bu şekilde meşruluk kazanacaktı.
8- Milletimiz insanî ve asrî gayeleri tebcil, fennî, sınaî ve iktisadî hal ve ihtiyacımızı takdir eder. Bu cümle ile Türk milletinin yeniliklere açık ruhu belirtiliyordu. Denilmek isteniyordır ki, Türk milleti insanî ve uygar amaçların değerini bilen ve kavrayan bir millettir. Nitekim Atatürk, milletin çehresini değiştiren büyük inkılâplara başladığı zaman "Yaptığımız ve yapmakta olduğumuz inkılâpların gayesi, milletimizi her bakımdan uygar bir toplum haline getirmektir. İnkılâplarmızın temel kuralı budur." diyecekti. Kararda geçen "Milletimiz fennî, sınaî ve iktisadî hal ve ihtiyacımızı takdir eder" ifadesinde de harap bir memleketi bayındır hale getirmek için gelecekte gerçekleştirilecek kalkınma hamlelerine işaret edilmekte idi.
Erzurum Kongresi, memleketin bütününü ilgilendiren bu tarihî kararlarıyla bölgesel bir kongre olmaktan çıkmış, kendisinden sonra gelişecek tüm olayları büyük ölçüde etkilemişti. Zira, Sivas Kongresi kararları, Erzurum Kongresi kararlarına dayandı. Misak-ı Millî'nin esasında Erzurum Kongresi kararları yer aldı. Türkiye Büyük Millet Meclisi'nin toplanış ve açılış gerekçesi Erzurum Kongresi kararlarına oturtuldu. Mudanya ve Lozan Antlaşmaları'nın bağımsızlığı savunan ruhu; ilhamını Erzurum Kongresi kararlarından aldı. Cumhuriyet rejiminin ruhu, irade-i milliyeyi hâkim kılmak esasında toplandı. Ve nihayet "Milletimiz insanî ve asrî gayeleri tebcil eder." cümlesiyle Atatürk inkılâplarının ilk kıvılcımları Erzurum Kongresi'nde parıldadı.
Sonuçları bakımından bu derece önem taşıyan Erzurum Kongresi için Mustafa Kemal Paşa, kapanış konuşmasında "Tarih, bu Kongremizi şüphesiz ender ve büyük bir eser olarak kaydedecektir." ifadesini kullandı.
Erzurum Kongresi, 7 Ağustos 1919 günü -kendisi adına bütün yetkileri kullanacak- 9 kişilik bir Heyet-i Temsiliye seçerek çalışmalarına son verdi. Şimdi Heyet-i Temsiliye'yi ve Onun Başkanı'nı büyük bir görev bekliyordu. Erzurum Kongresi'nde parlayan kıvılcımı söndürmemek, Sivas'ta onu meş'ale haline getirerek millî kurtuluşa daha emin adımlarla yürümek gerekiyordu. Bu sebepledir ki, Mustafa Kemal Paşa, doğu illerinin mukadderatı için toplanan Erzurum Kongresi'ni -gayesini daha da genişleterek- bu amaca yöneltmek istedi. Bu sebepledir ki, Erzurum Kongresi'ni Sivas Kongresi'ne bağlayarak Millî Mücadele'ye memleket yüzeyinde genişlik kazandırdı.
Sivas Kongresi günlerinde de memleketin içinde bulunduğu ağır mütareke şartları bütün acılığı ile devam ediyordu. Mondros Mütarekesi'nin milletimiz aleyhine haksız ve insafsız bir şekilde uygulanması, İzmir'e çıkmış olan Yunanlıların İtilâf devletlerinden aldığı cüretle Anadolu'nun içine doğru ilerlemesi, çeşitli şehirlerimizin işgali Sivas Kongresi günlerinde de birbirini izledi. İşte böyle bir hava içinde Mustafa Kemal Paşa, bir kısım Heyet-i Temsiliye üyeleriyle beraber Sivas Kongresi'ne iştirak etmek üzere 2 Eylül 1919'da Erzurum'dan Sivas'a geldi. Sivas, Millî Mücadele liderini emsalsiz sevgi gösterileri ve coşkun bir sevinçle karşıladı.
Sivas Kongresi, 4 Eylül 1919 günü o zamanlar "Mekteb-i Sultanî" olarak kullanılan bir binanın salonunda, 38 delegenin iştiraki ile toplandı. Kongre, 8 gün devam etti ve 11 Eylül 1919'da Heyet-i Temsiliye seçimini takiben bir beyanname yayımlayarak çalışmalarına son verdi. İlk oturumda yapılan oylamada Mustafa Kemal Paşa, başkan seçildi.
Erzurum Kongresi'ni takiben bütün memleketi temsil eden böylesine önemli bir Kongre'nin özellikle Sivas'ta toplanışı, şehrin stratejik durumu ile ilgili idi. Anadolu'nun ortasında yer alan bu şehrimiz -mütareke şartları gereğince İtilâf Devletleri'ni temsilen bazı subaylar bulunmasına rağmen- işgal altında değildi. Ulaşım bakımından Anadolu yollarının birleştiği bir kavşak durumunda idi. Ogünkü imkânların elverdiği ölçüde çeşitli Anadolu şehirlerine şu veya bu şekilde bağlanabiliyordu. Her ne kadar Fransızlar Adana üzerinden, İngilizler Samsun'dan şehri işgal tehdidinde bulunuyorlarsa da Mustafa Kemal Paşa, böyle bir işgalin düşmana çok pahalıya mal olacağını hesaplıyordu. Bütün bu avantajları yanında Müdafaa-i Hukuk Cemiyeti Sivas Şubesi, şehirde oldukça iyi teşkilâtlanmıştı.
İşte bu şartların oluşturduğu hava içinde gerçekleşen Sivas Kongresi doğrudan doğruya Mustafa Kemal'in çağrısı üzerine toplanmış, bir millî kongredir. Kongre'nin 38 üyesinden 31'ini Batı ve Orta Anadolu illerinden gelen üyeler, 7'sini ise Doğu Anadolu illerini temsilen Erzurum Kongresi'nce seçilen Heyet-i Temsiliye oluşturmuştu. Böylece Batı ve Orta Anadolu illerinden seçilen delegelerle Doğu illerini temsilen gelen Heyet-i Temsiliye, Sivas Kongresi'ne memleket çapında bir genişlik ve bütünlük kazandırdı.