曾國藩遵旨赴任兩江總督，同治九年九月初六日（1870年9月30日）曾國藩向李鴻章交卸直隸總督印務，九月二十三日（10月17日）從天津啟程赴京陛見，旋即返任兩江總督。這次南下，曾國藩也帶李興銳和陳蘭彬一起前往，李興銳先安排在南京兩江總督府內工作，而直接點名讓陳蘭彬到上海的江南製造局任職，因為陳蘭彬具有任重致遠之誌，不避艱險，由他擔任“講求防海、製器、操練輪船之事”頗為適宜。
此時的陳蘭彬已是曾國藩手下的得力幹將，兩人來往密切。是年十一月，曾氏在日記中記：“未刻，陳荔秋自滬來見，談甚久”（十一月初六日）《曾國藩日記》下，第2392頁。。“章價人、陳荔秋先後來久坐”（十一月十六日）《曾國藩日記》下，第2395頁。。“陳荔秋、王子雲先後來談”（十一月二十九日）《曾國藩日記》下，第2400頁。。《東華續錄》記載：“曾國藩奏遵旨赴任兩江，懇請陛見，並請將主事陳蘭彬帶至江南。……主事陳蘭彬著準，由曾國藩帶往江南差遣委用，將此由六百裏各諭令知之。”王先謙：《東華續錄》（同治朝），第3446頁。
同治九年九月十六日（1870年10月10日），曾國藩向朝廷遞交《奏帶陳蘭彬至江南辦理機器片》。曾國藩重用陳蘭彬不僅是一般的用人需要，而是他已認準陳蘭彬是具有辦洋務能力的人才。奏曰：
再，四品銜刑部主事陳蘭彬，經臣於上年正月奏調來直襄辦一切，深資臂力。該員實心孤詣，智深勇沉，曆練既久，斂抑才氣，精悍堅卓，不避險艱，實有任重致遠之誌。臣九月初六日奏陳海上操兵之法，其要全在船主得人。目下中國輪船，於駕駛出洋尚未練習，欲求已成之材，可為船主者，自屬不易多遘。將來召募之始，必先擇閩粵沿海之人不憚風濤者，使之學習掌舵看火測量沙線等法，以期漸就嫻熟。該員生長粵東，留心兵事，若令延攬將才，於輪船操練事宜，必有裨益。至外國技術之精，為中國所未逮，如輿圖算法，步天測海，製造機器等事，無一不與造船練兵相為表裏。其製則廣立書院，分科肄業，凡民無不治學，其學皆專門名家，每治一藝，每製一器，皆係父子相傳，世繼其業，然後入微合漠，愈久愈精。其國家於軍政船政，皆視為身心性命之學。如俄羅斯初無輪船，國主易服微行，親入鄰國船廠，學得其法。乾隆間，其世子又至英國書院肄業數年，今則俄人巨炮大船，不亞於英法各國，此其明效。江蘇巡撫丁日昌屢進臣言：宜博選聰穎子弟，赴泰西各國書院及軍政、船政等院，分門學習，優給薪斧，寬假歲時，為三年蓄艾之計。行之既久，或有異材出乎其間，精通其法，且效其意，使西人擅長之事，中國皆能究知，然後可以徐圖自強。且謂攜帶子弟等赴外國者，如該員陳蘭彬及江蘇同知容閎輩，皆可勝任等語。臣精力日衰，自是難策後效，然於防海製器等事，亦思稍立基緒，異日有名將帥者出，俾之得所憑借，庶不難漸次拓充。陳蘭彬素有遠誌，每與議及此事，輒複雄心激發，樂與有成。該員係奉旨交臣差遣之員，此次仍擬帶至江南，於目前操練輪船，將來肄業西洋各事，必能實力講求，悉心規劃。理合附片陳明，伏乞皇太後、皇上聖鑒明示。謹奏。 《曾國藩全集》奏稿（十二），第7133-7134頁。
該奏折反映了曾國藩對陳蘭彬總體的看法和對他能把“洋務”辦好的信心。值得注意的是：第一，曾國藩高度評價陳的前期工作。“該員實心孤詣，智深勇沉，曆練既久，斂抑才氣，精悍堅卓，不避險艱，實有任重致遠之誌”，是曾國藩對陳蘭彬在直隸工作以及在天津處理教案等工作的總評價。第二，作為管理洋務的南洋大臣的曾國藩尤其注意到“海上操兵之法”，關鍵在於培養人才，即培養一批具有駕駛輪船出洋航海本領，又具有一定技術知識的“船主”，這樣的人才必須在“閩粵沿海”一帶尋找。在曾國藩看來，陳蘭彬具有“延攬將才”，操練輪船事宜的能力，他生長在廣東，又“留心兵事”，這些優勢肯定能把工作做好。第三，曾國藩看得更遠，把陳蘭彬安插在製造局，為以後派他率領學生留學美國打下基礎。曾國藩認為，外國技術之精，在於外國重視教育，“廣立書院，分科肄業，凡民無不治學，其學皆專門名家，每治一藝，每製一器”。陳蘭彬在江南製造局工作，可以了解中國辦洋務的情況，知道中國缺哪些機器，缺哪些人才，“將來肄業西洋各事，必能實力講求，悉心規劃”。《曾國藩全集》奏稿（十二），第7133頁。
陳蘭彬被派往江南機器局擔任總辦，這是他正式辦理洋務實事的標誌，從此，他的洋務思想在實踐中得到升華。陳蘭彬在《太傅一等毅勇侯文正公祭文》中談到這段經曆：曾氏“複奏調蘭彬於江南委勷滬上機器局務。機器非蘭彬所習知，公亦知此非蘭彬所能，特籌所以長駕遠馭之策，謂：前古富強在兵與農，今日西人富強在兵與商，其用兵恃炮利船堅，無不根本於算法，欲選幼童出洋肄習，悉其技藝，與李伯相奏派蘭彬攜帶前往”。《大界曾氏五修族譜》（一），第361頁。
江南製造局的全稱是“江南機器製造總局”，簡稱“江南製造總局”、“江南製造局”、“上海機器局”、“上海製造局”。它是曾國藩與李鴻章共同創辦的中國第一家大型的使用機器生產的工廠，無論從創設局廠時間之早，經費之多，規模之大，設備之厚，生產能力之強，均屬首屈一指。據《江南製造局記》記載，“上海製造局同治四年（1865）五月初，購洋人機器在虹口開辦。六年（1867）夏始移城南高昌廟鎮”。江南製造局內分建各廠：機器廠、洋槍樓、汽爐廠、木工廠、鑄銅鐵廠、熟鐵廠、庫房煤棧；後又建輪船廠，築船塢。管理部門是公務廳，內有：文案處、報銷處、支應處、議價處。七年（1868）設翻譯館。八年（1869）增設汽錘廠，另建槍廠，又設廣方言館。十三年（1874）立操炮學堂。魏允恭編：《江南製造局記》，台北：文海出版社1969年版，第147頁。
江南製造局是清政府經營的新式軍用企業之一，其經費從海關收入提取，因此能成為當時最大的軍火工廠。該局主要製造槍炮、水雷、彈藥、機器和修造輪船。主要依靠外國提供機器和主要原材料，但技術大權落入洋人之手。製造廠的籌辦者是李鴻章，但大規模地將西方的機器設備引進該廠則是在曾國藩手上完成的。1863年曾國藩選派最早留學美國的容閎赴美購辦“製造機器之機器”。1865年，容閎向美國樸得南公司購回中國向西方直接購辦的第一批機器，最後由李鴻章總其大成。此外，徐壽、華蘅芳等人參加了機器安裝工作，該局的大政方針由曾國藩、李鴻章商定，具體管理工作則先後由曾氏幕僚丁日昌、馮焌光、李興銳負責。