1928年，33歲的林語堂挈婦將雛到了上海灘，麵對著燈紅酒綠的十裏洋場，如何生存下來是個很現實的問題。他對魯迅談到今後的打算，說準備以寫字為生，得到魯迅的讚賞。但相比於年長他14歲、且名滿天下的魯迅，林語堂隻能算是文壇新人，靠筆杆子養家糊口，並非簡單的事。
短短幾年內，林語堂無論是經濟、名氣還是學術，都躋身一流大師之列。首先，他的“國語羅馬字拚音法”得到國民政府認可，本人也受聘為中央研究院英文總編輯。接著，其《開明英文讀本》被教育部定為學生教材，賺得盆滿缽滿，博得“版稅大王”之稱；另外，國際筆會中國分會於上海成立，他為發起人之一。
有錢有名有時間，林語堂就想玩雜誌，他先後創辦了《論語》《人間世》《宇宙風》等刊物，以幽默的筆調直指社會現實，表達了對國民黨政府的諸多不滿和譏諷，銷量喜人。國民黨上海黨部組織還專門討論如何聲討魯迅和林語堂，函請出版界、報界“在魯迅林語堂作風未改變前”拒絕出版、刊登二人作品，並“呈請黨政機關嚴厲製裁魯迅林語堂兩文妖”，警告二人“迅即改變文風，否則誓與周旋”。在上海，賽珍珠女士建議林語堂以英文寫作，忠實地將中國麵貌引介給西方，故而就有了引得歐美紙貴的《吾國與吾民》。林語堂的幽默與閑適也引得左翼作家的不滿，胡風曾譏諷林語堂：“他站在中央，在他的周圍站著成群的知書識禮的讀者，有的麵孔蒼白，有的肚滿腸肥，有的‘滿身書香’，各各從林氏那裏分得了‘輕鬆’，發泄了由現實生活得來的或濃或淡的不快和苦悶，安慰了不滿於現實生活而又要安於現實生活的‘良心’。”後來連魯迅也說幽默文學是“麻醉文學”，林語堂則批評魯迅是“左傾急進主義”。魯迅寫信勸告林語堂，不要搞小品了，多譯點英文名著才是正途。林語堂回信：“等老了再說。”林並非有意，但在魯迅聽來卻以為林有意嘲笑，因為魯迅比林大14歲。
1936年，林語堂放下了與國內文壇大佬的恩怨，攜全家赴美。在美國，他專心以英文寫作介紹中國，先後出版了《生活的藝術》《京華煙雲》《孔子的智慧》《風聲鶴唳》等，每部作品都成為了暢銷作品。他利用自己在美國的影響力，積極宣傳抗日。他在美國的電台上說：“現在重慶的那批人，正是以前在南京的那批人，他們正在擼胳膊，挽袖子，為現代的中國而奮鬥！”
寓居美國30年後，1966年，72歲的林語堂去了台灣，後受聘於香港中文大學。1976年3月26日，林語堂因肺炎、心髒病突發病逝於香港，享年82歲，4月1日移靈於台北。
與魯迅的恩怨
林語堂性子隨和，喜歡開點玩笑，又因其“幽默小品”在民國年間影響很大，故而人稱其為“幽默大師”。他最有名的段子，是在某次應酬演講的時候，僅僅說了一句話讓全場掌聲雷動：“演講就應該像女人的裙，短而迷人。”如此溫和的一個人，怎麼會跟文壇大佬魯迅鬧僵呢？
在北大任教期間，林語堂和魯迅算是戰友。適時北大的文科教授大致可分為兩派，一是以魯迅、周作人兄弟為中心的“語絲社”，姑且稱為“雨絲派”。“語絲文體”排舊促新，簡潔明快，站在民間立場，對政府多有批評。二是胡適、陳西瀅、徐誌摩的“現代評論派”，該派屬於“士大夫文章”，對當局多有維護。林語堂在留學歐美的時候，多次得到胡適資助，但他在思想上更傾向於“語絲”，故而加入了魯迅兄弟的陣營。
因為支持學生運動，魯迅和林語堂曾遭到北洋當局的通緝。為安全起見，林語堂先離開北京，受廈門大學校長林文慶的邀請到廈大任教。到了廈大後，林語堂負責創辦國學院，將魯迅也請來了。廈門大學靠理科起家，故而對文科教授多有排擠。教務長劉樹杞深恨國學院分走了經費，幾次逼魯迅搬家，最後一次居然讓魯迅搬到了廈大的地下室。魯迅氣得目瞪口呆，但為了林語堂，還是留了下來，他說：“隻怕我一走，語堂要立即被攻擊。所以有些彷徨。”隻是後來人事糾紛愈演愈烈，魯迅跟林語堂實在受不了，先後離開。
後來，兩人輾轉到了上海，均靠文字為生。林語堂提倡性靈幽默，魯迅則把文學當作“匕首”“投槍”，因為理念不同，終於漸行漸遠。
在上海期間，林語堂與魯迅曾多次鬧誤會。第一次誤會，是魯迅以為林語堂把他當成了小人。魯迅和北新書店的老板李小峰有版稅糾紛，鬱達夫為二人調解，李小峰便在南雲樓擺酒宴請魯迅，林語堂夫婦也被邀請。在宴會上，林語堂提到了另一出版商張友鬆。張是魯迅的學生，曾多次跟魯迅和林語堂說要辦書店，且決不拖作者的稿費。李小峰得知後很不高興，認為張挖他的牆角。其實魯迅也沒答應跟張友鬆合作，林語堂和李小峰嘰嘰喳喳，魯迅當即一拍桌子，“語堂，你這是什麼話！我和北新的訴訟，不關張友鬆的事！”林語堂則辯解：“是你神經過敏，我沒有那個意思！”兩人越說越上火，最後不歡而散。四十年後，林語堂作《憶魯迅》一文，回憶此事說：“有一回，我幾乎跟他鬧翻了。事情是小之又小，是魯迅神經過敏所至。那時有一位青年作家……他是大不滿於北新書店的老板李小峰，說他對作者欠賬不還等等。他自己要好好地做。我也說了附合的話，不想魯迅疑心我在說他……他是多心，我是無猜。兩人對視像一對雄雞一樣，對了足足兩分鍾。幸虧鬱達夫作和事佬。幾位在座女人都覺得‘無趣’。這樣一場小風波，也就安然流過了。”