蔣介石主政國(guó)民政府時(shí)期，曾派蔣百里考察南北防務(wù)，從山東、河北、山西、河南到湖南、湖北、廣東，以應(yīng)對(duì)可能的國(guó)家戰(zhàn)爭(zhēng)。蔣介石還委托蔣百里到廬山，為暑期訓(xùn)練班的各省高級(jí)將領(lǐng)授課。1936年底，蔣百里從歐洲考察軍事回國(guó)，飛赴西安向蔣介石匯報(bào)，他對(duì)蔣說(shuō)：“我剛從國(guó)外考察回來(lái)，消息比較靈通。目前日本海軍和陸軍為侵華而互相爭(zhēng)功，日本天皇已秘密接見(jiàn)過(guò)陸軍大臣，看來(lái)明年（1937年）一定會(huì)大舉入侵我國(guó)！”
蔣百里的識(shí)見(jiàn)、預(yù)言幾乎是驚人的準(zhǔn)確。1923年，蔣百里與龔浩回北京。途經(jīng)徐州，蔣忽然若有所感：“將來(lái)有這么一天，我們對(duì)日作戰(zhàn)，津浦、京漢兩路必被日軍占領(lǐng)。我們國(guó)防應(yīng)以三陽(yáng)為據(jù)點(diǎn)，即洛陽(yáng)、襄陽(yáng)、衡陽(yáng)。”龔聽(tīng)了這個(gè)神話般的怪論，覺(jué)得蔣太敏感，自忖“將來(lái)中日兩國(guó)開(kāi)戰(zhàn)，無(wú)論怎樣，我們的半壁江山不會(huì)淪于敵手”。
很早的時(shí)候，蔣百里就對(duì)梁漱溟說(shuō)：“吾知中日之戰(zhàn)，勢(shì)不能免，勝敗之分，一在械，一在人；論械則我不如敵，論人則我多于敵七八倍。然今日軍事在民眾總動(dòng)員，而將士不過(guò)十之三。我國(guó)系農(nóng)業(yè)社會(huì)，凡農(nóng)民欲以民族主義動(dòng)之不易明了，惟欲破壞其所據(jù)鄉(xiāng)村，則彼以生命相搏，故欲君于教育中注重鄉(xiāng)村……”1937年，他跟梁漱溟談起中日戰(zhàn)爭(zhēng)時(shí)說(shuō)，中國(guó)軍民應(yīng)“控制山東高地與山西高地”、“堅(jiān)守一些山區(qū)不放”。因?yàn)閱慰恐袊?guó)自己的力量無(wú)法抗得住強(qiáng)敵，大半國(guó)土皆要淪陷而不能守，那是沒(méi)有問(wèn)題的，抗且抗不了，要戰(zhàn)勝它就更有待國(guó)際大勢(shì)的變化不可了，所以需要西撤，待機(jī)反攻，合盟國(guó)之力以求收復(fù)失地。但單是靠他人，而沒(méi)有“求諸己”的一面，那怎么能行？須知反攻戰(zhàn)勝敵人的主要條件仍然在中國(guó)人自己。他似乎看到了持久戰(zhàn)、敵后游擊隊(duì)。
曹聚仁則提到一件事：“有一天，那是‘一·二八’戰(zhàn)后的第三天，2月1日。他和我們?cè)谝患铱Х瑞^喝茶，翻開(kāi)那天上海版的《每日新聞》，頭條新聞是日本陸相覲見(jiàn)天皇的電訊。他沉吟了一下，對(duì)我們說(shuō)：‘2月5日早晨，會(huì)有日軍一師團(tuán)到達(dá)上海參加作戰(zhàn)了。’他何以這么說(shuō)呢？他說(shuō)日陸相覲見(jiàn)天皇的意義是報(bào)告日軍正式出戰(zhàn)。依日本當(dāng)前的運(yùn)輸能力，三天之間，可運(yùn)輸一個(gè)師團(tuán)的兵力——四萬(wàn)戰(zhàn)斗兵及其裝備到上海，所以他估計(jì)這一師團(tuán)，5日可以投入戰(zhàn)斗。（后來(lái)，他把這一估計(jì)，告訴了蔡廷鍇將軍。）果然，‘一·二八’戰(zhàn)役，日軍的第一場(chǎng)反攻是從2月5日開(kāi)始的，他估計(jì)得非常準(zhǔn)確。”
但這樣的天才卻只能做了一個(gè)大時(shí)代的旁觀者。蔣介石雖然器重蔣百里，但從不授予他兵權(quán)。1938年秋，蔣介石任命蔣百里為中國(guó)最高軍事學(xué)府陸軍大學(xué)代理校長(zhǎng)，仍由自己兼校長(zhǎng)。在軍閥、梟雄爭(zhēng)勝的時(shí)代，英雄無(wú)用武之地，幾乎注定了蔣百里的個(gè)人悲劇。他趕上了西安事變，跟蔣介石一起做了張楊的階下囚。張學(xué)良想派個(gè)人去南京接洽停戰(zhàn)，又怕南京不接受，問(wèn)計(jì)于蔣百里。蔣問(wèn)：“這里的人你最討厭誰(shuí)？”張學(xué)良回答：“蔣鼎文。”蔣百里說(shuō)：“那就讓他去。”南京很快?；?。牛刀小試只是做了一次參謀顧問(wèn)的角色。
在那樣的時(shí)代，蔣百里只是一個(gè)象征、點(diǎn)綴，更多的時(shí)候只能做一個(gè)宣傳員，但這一工作他也做得極為出色。比如他從民族特性上勸導(dǎo)國(guó)人樂(lè)觀，他說(shuō)，中國(guó)民族夙非以武力見(jiàn)長(zhǎng)，民族歷史不以武功著稱(chēng)；但每從自衛(wèi)上發(fā)出力量來(lái)，亦能戰(zhàn)勝?gòu)?qiáng)敵，也就是說(shuō)中國(guó)不能打侵略戰(zhàn)爭(zhēng)，而長(zhǎng)于自衛(wèi)?？箲?zhàn)初期，國(guó)民軍隊(duì)節(jié)節(jié)敗退，形勢(shì)萬(wàn)分危急。蔣百里在1937年秋冬撰寫(xiě)了《日本人——一個(gè)外國(guó)人的研究》一文，斷言日本黃金時(shí)代已經(jīng)過(guò)去，他說(shuō)：“日本在極小一塊空地中，常能布置出十全的庭園山石，這個(gè)想象力很大的日本民族，悲劇性地自造了一個(gè)國(guó)難，以為悲壯的享樂(lè)本來(lái)是一個(gè)理想的陰影，現(xiàn)在竟變成了事實(shí)的魔鬼。日本的厄運(yùn)，實(shí)在是愛(ài)國(guó)志士造成的啊！”文章結(jié)語(yǔ)寫(xiě)道：“勝也罷，敗也罷，就是不要同他講和。”文章轟動(dòng)一時(shí)，激勵(lì)了無(wú)數(shù)人的抗日斗志。