甲午戰爭失敗，在救亡圖存的危急之秋，他決心實業救國，籌劃並建立了大生紗廠。由於當地原是棉區，用他的話來說，通棉“力韌絲長，冠絕亞洲”，所織之布，質地亦佳，足以趕上東洋布。他定其商標曰“雪恥布”，寓意深長，雄心可見。但隨著業務的發展，原棉供不應求。麵對現實，他得出這樣一條結論：“因念紗廠，工商之事也。不兼事農，本末不備”，必須“廣植棉產，以厚紗廠自助之力”。於是又轉而大力開辟原棉生產基地。
在南通、海門兩縣的東海岸，有一片河流衝積的海灘，不下數萬頃，百餘年來荒廢不治，成為“國之棄土”。過去，他辦通海濱海漁團時，常到那一帶巡視。後來鄭州黃河決口，他也曾去查災情、主持河工計劃，並擬過《疏塞大綱》，對農田水利工程，有一定的基本知識。現在為了實踐實業救國的宏願，決心從事墾荒植棉的艱巨工作：在一望無際的海灘上建造農田，修築長堤巨壩以禦海潮台風的侵襲，還要開挖深溝亮渠排除地上鹽堿，工程浩大，費用繁多。對此，他沒有采用征收徭役的封建手段，而是引用西方資本主義集資的辦法，在1901年成立了通海墾牧公司來興辦農業，這在當時完全是一種新生事物。
根據工程規劃，張謇按地形地貌，把全公司的土地分為8個區，每區都築一條瀕海大堤，作為外堤阻攔海潮入侵，另有通潮大港的沿岸堤為裏提，內河沿岸堤為次裏堤。除此三道防線，堤中又分格作堤，堤麵疊實整平，可充交通大道。堤之外，還有2個港口，5條河流；堤之內，有幹渠、支渠，渠道通過堤身下麵的涵洞與出海河港相通，港口則有禦潮防浪的節製閘。堤內土地又以東西向等距的橫河，劃分為若幹排，每排自東至西又分成若幹塊，每塊麵積20畝，排呈長方形，從而使河網化與條田化同時完成。河、堤、路、橋四通八達。全部工程合乎科學，注重質量。不僅適合當時的人工操作，他還考慮到了來日的機械化，事實證明他當年的遠見卓識，不愧為現代農業的先驅者。
當時，張謇還延聘了荷蘭的水利工程師，引進了美國優良棉種，並采取一係列改造鹽堿地的措施，發展養畜養魚，提倡種植椿柏桕桐，嚴禁種植鴉片害民。總計自1901年開始，開墾荒地9萬多畝，至1919年棉花產量達1萬餘擔，總收入近20萬元。
後來，也就是興墾的第11年開始，盈利大增，1911—1925年純利達84萬兩（白銀），幾乎等於原始投資的3倍。棉花產量逐年提高，1925年總產達16130擔，1923年糧棉總收入達32萬元，畝均3.55元。
清朝後期我國水災嚴重，特別是海上運輸開通，津浦鐵路建成之後，貫穿南北漕運的京杭運河日趨廢置，蘇北、皖北水患頻循。當時張謇在治理通海水利的基礎上，也曾向朝廷上書，大聲疾呼治理淮河：“淮有暢流人海之路，湖有淤出可治之田，田有增賦，民有增產，大患盡去，大利頓興”。
在具體做法上，張謇認為治淮必先行測量。1909年，他籌辦了江淮水利公司，又在清江浦設立了測量局，調派通州師範學校測繪科的學生前往實地勘測，為導淮工程奠定了根基。
辛亥革命以後，他一度擔任全國水利局總裁，並任導淮督辦。對水利建設，特別是蘇北的農田水利，曾有過宏偉的設想和建議。
總長農商革新農政
1913年原屬維新派的熊希齡，出任國務總理兼財政部長，張謇應邀總掌農林、工商兩部。新任伊始，他發布了頗具特色的《就部任之通告》首先指出：“國家設官分職，有職然後有官。用人者為事務求人才，非為個人謀位置。”接著立即轉入正題：“現查農林工商兩部員司至400人之多，其學有專門，嫻熟部務者固不乏人，而但有職名、無所事事者亦不少。苟國庫充裕，借此養才，亦足示承本之氣象，無如民國肇造，禍亂未已，民窮財盡，上下囂然……”為此，他大刀闊斧地采取了對策：“林屬於農，工不能離開商業而獨立”。於是合二為一，改成農商部，將原有的8個司並為3個司（農林、工商、漁牧）1個局（礦政局）。在人員去留方麵，“有官而無事者存其官，而不必置其人；有事而人多者減其人，以適當其事。”隨即以農商部第二號令，公布了選用原農林部63人，工商部63人，共126人。較原兩部人員，裁減2／3。對未留用者分別予以安排，並鼓勵他們“各出所學，自謀鄉裏”，對被留用者，嚴守紀律，“照常辦事，毋得疏忽”。當時，鼎革未久，遺老遺少，親屬故舊，乃至特殊關係的人事糾紛，極其複雜。張謇能夠衝破阻礙，整頓隊伍，固然與他的才幹和威望有關，但也可見其求實革新之毅力。事實證明，在他的農商總長任內，雖為時不過2年，確也做了一些實事。