而明神宗對徐光啟始終是“用其人而不用其言”，兵要他選練，卻又不管各方麵對他的練兵工作的阻撓。兵器缺乏、糧草不足，新兵又無來源，種種實際困難解決不了，使練兵計劃變成有空名而無實效。剛訓練4個月，兵部就把這支“得勝兵”的一部分開赴前線。麵對著這一現實，徐光啟對選練“得勝兵”已經心灰意懶，曾幾次上書稱病辭職。天啟元年（1621年）三月，徐光啟的要求得到批準，他把軍隊和財物移交後，回到天津種試驗田去。
後來，有人告訴他，經他訓練的那支軍隊，戰鬥力很強，出關作戰中曾屢建戰功，尤其是在遼陽(今遼寧省遼陽市）戰役中，隻有這支部隊打過一場硬仗。這話一點不假，徐光啟選練的那支軍隊，由於技術上訓練得法，又有忠義愛國思想，所以戰鬥力比別的部隊強。
在這次練兵實踐中，徐光啟還留下了《徐氏庖言》、《兵事或問》、《選練百字括》和《選練條格》幾部軍事著作。
金兵主力攻破沈陽、遼陽以後，形勢更為嚴重。於是，天啟元年0621年）四月，徐光啟又從天津被召回朝廷。
徐光啟回京後，吸取他練兵計劃失敗的教訓，把他的軍事思想逐漸轉向“器勝”方麵，竭力主張多築炮台，多造西洋大炮，以便加強京城防守。結果，因為和兵部尚書崔景榮意見不合，禦史邱兆麟也排擠他，他的建議沒有被采納。徐光啟又一次心灰意冷，請病假返回天津。以後獲準“冠帶閑住”。
就在1629年初，徐光啟還向崇禎請求訓練三五千兵，以便緊急出擊敵人，結果也沒有回音。
他的這一切軍事主張都沒有能夠實現，因此，他對自己能否再參與軍機大事已喪失信心，而且，他覺得自己本是文人，對戰事不負什麼責任，還是不管軍事為好。可是，當他想起少年時代祖母常同他講的抗擊倭寇的事時，又決心不顧個人的得失，繼續出謀獻策。
他一麵想著這些事，一麵開始寫起奏疏來。
一月初四，崇禎帝在平台召集大臣們開會，憂心忡忡地說：“金兵主力進逼京師城下，你們有何退兵之計，各宜陳奏。”
一開始，內閣兵部4位大臣紛紛向崇禎帝建議派兵出城紮營。
徐光啟坐在一旁暗想：軍隊出城紮營，城靠老百姓守衛，而守城需用火器，他們從來沒有訓練過開槍開炮，怎麼能守城呢？徐光啟又聯想到1621年遼東經略袁應泰守衛遼陽時，命令軍隊在城外布陣，迎擊敵軍，最後以大敗而告終，袁應泰本人也燒死在城樓上。而1626年1月努爾哈赤率兵13萬圍攻寧遠時，守將袁崇煥不出一兵，據城堅守，當金兵靠近城牆時令士兵發炮猛轟敵軍，金兵潰退，死傷達17000餘人，打了一個大勝仗，這就是著名的寧遠大捷。努爾哈赤本人在這次戰事中也受重傷，不久就死了。城外安營，城內守禦，兩相對比，“守城為上”。徐光啟最後得出這個結論後，立即向崇禎帝陳述自己的主張，又從衣袖裏取出昨天連夜寫好的守衛京師的奏疏，雙手呈奏給崇禎帝。
崇禎帝接過奏疏，細看過後，便決定采納徐光啟的守城計劃，並下旨徐光啟協同料理守城事務。
徐光啟接受這一任務以後，他首先組織軍隊。他提出了組織“車營”辦法。這種車營編製是：4000人為一營，其中士兵2000人，隊兵2000人；每營配備雙輪車120輛，炮車120輛，糧車60輛，共300輛；西洋大炮16門，中炮80門，鷹銃100門，鳥銃1200支。接著，他又訂出《守城條議》，條款規定有守城紀律兵力配備、火藥分配、殺敵賞格、嚴查奸細等18條款。他又請來西洋人陸若漢、公沙的西勞等做技術顧問，仿造西洋大炮。這種大炮炮身有一丈長，用銅或鐵製造，炮筒粗達三四尺，炮口直徑3寸，可裝火藥數升，炮彈直徑和炮口一樣為3寸，重量四斤，用精鐵製成。
此外，還裝填碎鐵碎鉛，一同發射。炮上裝有地平盤和標尺，作為瞄準器，按要求的方向和距離進行瞄準。大炮製成後命名為“大將軍”，並委派官員祭炮。這種大炮具有許多優點，速度快，射程遠；有瞄準器，命中率高；破壞力大，殺傷力強，一炮能打穿城牆、殺傷千百人。火發彈飛，二三十裏地以內，殺傷力極大，其碎鐵碎鉛射程更遠及五六十裏。每門大炮重達1500到2500公斤，運送時，可以裝上車輪，用馬拉動，進退方便。
徐光啟一麵全力擔負起鑄炮造火藥工作，一麵還親自上城樓部署火器和兵力，觀察敵人的動靜，與將士商議防守和出擊的方法。
有一天，徐光啟冒著風雪來到城北德勝門城樓上，用望遠鏡仔細觀察駐紮在城外的金兵營地。他找了幾位將領一起策劃，得我方的防禦工作已準備就緒，而敵軍沒有再增加援軍，打算用大炮去誘敵深入，殺他一陣。第二天上午，風止雪停，是一個好天氣。隻聽見3門大炮同時向金兵營地轟擊。可是金兵沒有一人傷亡。金兵見明軍的大炮如此不中用，有的冷笑，有的嘲罵，更有的直著嗓子吼著。他們叫喊了一陣之後，便毫無顧忌地向城牆擁來。徐光啟看到金兵距離城牆隻有一二十丈，便揮動手上的令旗，一聲命令：“放!”頓時架在城牆上的大炮連同火銃同時發射。炮聲、槍聲響成一片。刹那間，金兵的隊伍沒人一片火海，金兵被殺得血肉橫飛。從此，金兵不敢再攻打北京城了。二月十三日，金兵.全部撤回關外。北京城解圍了。
北京城解圍後，徐光啟回禮部仍任原職，開始集中精力搞天文曆法研究。
根據欽天監報告，崇禎二年（1629年）五月初一已正三刻（上午十時三刻）至午正一刻（中午十二時一刻），北京地區將會看到日偏食。
五月初一這天，晴空萬裏無雲。太陽離地平線一竹竿高（約上午七時），欽天監的官員們一個個地登上了觀象台。這座觀象台，坐落在北京東城泡子河城牆上，建於元十六年0279年），是我國著名的古老觀象台。台上設有渾天儀、簡儀和圭表等天文觀測儀器。台下的房屋是研究天文，整理觀測資料的地方。
欽天監的官員登上了觀象台以後，便緊張地忙碌著，準備觀測日食。有的擦拭著用來觀測日影以定時刻的日晷，有的把室內的漏壺搬到觀象台上來，有的則搬出幾隻盛滿清水的臉盆，以便人們觀測水裏的太陽倒影，避免肉眼直接觀看太陽受到陽光閃爍。