日本首相德川光國，重視人才培養，卻苦於缺乏師資，當他聽到德高才博的朱舜水正在日本時，便如獲至寶，當即派了使臣，備了厚禮，聘朱舜水為師，受業為弟子。
朱舜水應聘自長崎來到日本的首都江戶（今東京），德川光國首相待之以賓師之禮，經常向他詢問有關國家施政的方針、禮樂典章、文化風俗等問題，朱舜水都一一詳盡作答，“其言剴切，光國每納之”。在朱舜水七十歲誕辰時，德川光國還特地為朱舜水建造了一座庭院，取名後樂園，為朱舜水祝壽。這座後樂園，如今仍在東京第一高等學校內。這裏原是德川光國的府邸，園中的西湖堤、小廬山、小蓬萊、圓月橋等，都由朱舜水模仿中國名勝園林的精華而修，園名取自範仲淹的“先天下之憂而憂，後天下之樂而樂”。朱舜水以自己的崇高品德和淵博學識，贏得了日本朝野上下，甚至最高執政者的尊敬。
朱舜水稱讚日本是個“山川降神，才賢秀出”的國家。他非常熱愛日本人民，始終與之友好相處。在日本的這一段講學生涯，正如他自己在《答小宅生順問》一文中所說：“仆之視貴國同為一體，未嚐有少異於國也”。他以中國的治學之方、簡牘之式、科試之製、用字之法為教材，通過講學，大力傳播中華民族的優秀文化。他在《中原陽久述略》中，認真總結了明朝滅亡的慘痛教訓，針對當時日本某些上層人士崇尚儒法、空談佛理的僧侶主義傾向，提倡“實理實用實學”、“知用合一”，宣傳“學問之道，貴在實行”，反對“專在理學研究”。他說“宋儒辨毫厘，不曾做得一事”，強調知識學問應從日常生活實踐中求得。他重視史學研究，認為“經簡而史明，經深而史實，經遠而史近”、“得之史而求之經，亦下學而上達也”。聽過他講學的日本學者紛紛表示：“前者皆昏夢，今日始知耳。”
朱舜水的學術思想對日本社會的影響是巨大的，後來的日本學者評價道：“天佑以還，儒學以經世治民為要道，不務空理虛論，皆舜水所賜也……不惟後來明治維新受此良好的影響，即於朱子學說本身發揚而光大之，其功亦偉矣。”
對於朱舜水在日本傳播中國文化，梁啟超也有極高的評價：“中國儒學化為日本道德基礎，也可以說由舜水造其端”、“舜水人格極為高尚嚴峻，所以日本知識階層受其感化最深。昌人所以有二百年太平之治，實由舜水教化結果。”
朱舜水還協助編纂日本曆史書，他的曆史觀點和治史方法，對日本編史及形成“水戶學派”的思想體係，有一定影響。在朱舜水的熏陶教誨下，安東守約成為日本儒學發展中的重要人物，德川光國成為日本水戶學派的始祖。木宮泰彥在《日中文化交流史》中評論朱舜水說：“大興水戶學派，開創修史之風……凡當代學者無不間接直接接受到他的感化，給日本儒學界以極大的影響。”日本一些學者稱朱舜水為日本的“孔子”。
朱舜水不僅把中國的儒學帶到日本，還將中國當時先進的農業、醫藥學、工程建築、手工工藝以及中國傳統的器食用具、古升古尺、衣冠服飾等，從圖樣到製法，悉心傳授給日本人民，並親自進行指導和實踐。這對當時日本的建築、奠禮、度量等方麵的發展，無疑都有一定的作用，其更為中日文化交流作出了極大的貢獻。
三
朱舜水寄身日本，仍念念不忘故國，“舜水”這個名號就是他到日本定居之後起的，“舜水者，敝邑之水也”。他還常常麵朝西方，遙望故國而流涕。他寫的《避地日本感賦》，抒發了他懷念故國的悲憤之情：漢土西看白日昏，傷心胡虜據中原。