當時徐光啟已經從利瑪竇那裏了解了不少西方人使用的武器，包括大炮的知識，於是他發起一個到澳門去購買葡萄牙人大炮的計劃。買了人家的炮，自己還不會用咋辦？還要請幾個會開炮的人，這樣湯若望等傳教士就以炮兵教導員的名義再次進入中國。聽起來簡直就是一個笑話，基督教的傳教士，一轉眼成炮兵教導員了！
湯若望，這個曾經的德國貴族，就這樣經過千辛萬苦終於踏上了中國的土地，而且他和利瑪竇一樣再也沒有回去，1666年湯若望在北京去世，他的墓碑如今佇立在利瑪竇的墓碑旁。湯若望在中國40多年的生涯，傳播福音，並帶出不少皈依基督的人。在科學技術方麵，他翻譯了《遠鏡說》（是伽利略的文章），還有德國礦業學家的巨著《論礦冶》（中文書名《坤輿格致》），這些都對促使當時的中國人了解西方近代科學技術產生了非常巨大的作用。在軍事上他的《火攻挈要》雖然沒能挽救明朝滅亡的命運，卻為後來大清朝的火炮等軍事技術帶來了全新的觀念。在天文方麵，他寫的《西洋西法曆書》為後來新曆法的製定作出了卓越的貢獻。
清軍入關以後，湯若望歸依清朝，得到順治和多爾袞的喜愛，禦封為欽天監監正，並在北京古觀象台主持編纂曆書。但湯若望晚年的命運卻非常悲慘。順治去世，康熙即位以後，輔政大臣鼇拜非常反對西學，反對湯若望製定的西洋曆法，製造“曆獄”，治湯若望三條大罪：大逆謀反、宣傳邪教、製造昝誤曆書，判淩遲處死。可巧事偏偏發生了，死刑還未執行，突然京師地區發生強烈地震，皇帝大驚，以為是宣判湯若望死刑得罪了天庭，於是孝莊皇太後降旨，特赦湯若望。但此時身心疲憊的湯若望身體已經十分虛弱，特赦後的第二年，1666年8月15日，這位在中國拋灑熱血的德國貴族後代，終於走完了他生命的最後一刻，在寓所中溘然長辭，享年75歲。1668年康熙皇帝為湯若望平反，他的墓碑與利瑪竇並排佇立在一起。“如果說40年前，利瑪竇是以世界地圖吸引了中國的士大夫。那麼40年後的湯若望則是以他的數理天文學知識得到朝廷官員的賞識。”