紗廠的興盛依靠棉花，江淮之間產棉基礎原是不錯，但還是不能滿足大生紗廠生產的需要。早在1895年，張謇辦團練時，看到通州、海門二境交界的大片海灘，就曾動過興墾之念，如今紗廠已成，為保證棉花供給，就著手搞墾植。為此，張謇求助於兩江總督劉坤一，由他將《擬變通開墾海門荒灘奏略》呈報朝廷。不久，清廷批準了“奏略”，準許張謇“奉旨行事”。
1900年籌建“通海墾牧公司”圍墾沿海荒灘並製訂墾牧規劃。
大生紗廠1901年“通海墾牧公司”正式成立，著手“招佃”攔海築堤開墾荒地。通海墾牧公司重點營建作為政治、經濟中心的海複鎮，鎮上設有鍾樓、工場、消防室、拘留所和各種雜貨店鋪。墾區佃農建屋，亦要求在指定地位成排成線，到處講規矩，有標準。僅數年功夫，黃海灘頭，儼然成了一個嶄新的世界。未過數年，收入大增，至1910年左右，每年可獲淨棉2萬多擔。繼通海墾牧公司之後，張謇利用已取得的經驗，大興墾植之業，其後十數年中成立了二十多個鹽墾公司。1914年，成立了大有晉公司，1918年成立了華成公司，1919年成立了大豐公司、大綱公司、阜餘公司，1920年成立了中孚公司、遂濟公司等。
1902年2月，應兩江總督劉坤一電邀赴江寧討論興學之事，後與羅叔韞、湯壽潛等同人籌劃在通州自立師範。7月9日通州師範學校擇定南通城東南千佛寺為校址開工建設，翌年正式開學，這是我國第一所師範學校，它的建設標誌著中國師範教育專設機關的開端。張謇大開才路，廣求名師。他聘請學界名流王國維為國學、教育學教員，又聘日籍教師西穀虎二、木村忠法郎等擔任倫理學、西洋史、教授法等課的講師。學生皆從貢生、監生之中選取“性行端淑、文理素優”的人。他在師範建置內，附設了農科、蠶科、測繪科、土木工程科等項。在校河之西南，開設了農場，不久又建起附屬小學。
張謇特別重視職業教育，將通州師範學校的測繪、蠶桑等科發展成為十幾所職業學校，其中以紡織、農業、醫學三校成績顯著，以後各自擴充為專科學校，1924年合並為南通大學。僅張謇個人而言，從1902年到1926年25年間就為興辦各種教育事業注入資金257萬元，創辦通州各級各類學校合計330多所，並在寧滬等地先後參與或協助創辦了三江師範學堂（今南京大學前身）、複旦公學（今複旦大學前身）、南京河海工程專門學校（今河海大學前身）、吳淞商船學校等多所學校。此外還陸續創辦了博物苑、氣象台、圖書館、盲啞學校、更俗劇場、伶工學社等，這些在當時都是開風氣之先的新事物。
1903年，東渡日本進行70天的實地考察，以借鑒日本的經驗，把通州建設成為他心中的“新新世界雛型”和“地方自治”示範區。除參觀博覽會外，還參觀教育機構35處、農工商單位30處。
通海墾牧公司1904年3月，清廷賞加張謇三品銜，並任命他為“商部頭等顧問官”。四月，替湖廣總督張之洞、兩江總督魏光燾起草了《擬請立憲奏稿》。早年在張謇隨吳長慶離開朝鮮回國後，袁世凱投靠了李鴻章，這讓當時失意而歸的吳長慶更為難堪，不久即鬱鬱而終，張謇曾為此痛斥袁世凱並絕交多年。為了促使立憲運動的成功，尋求廣泛的支持，張謇捐棄前嫌，與袁世凱重修舊好。袁世凱借機巧妙地將張謇逼上前台：“各國立憲之初，必有英絕領袖者作為學說，倡導國民。公夙學高才，義無多讓。鄙人不敏，願為前驅。”清王朝的搖搖欲墜和革命潮流的高漲，促使張、袁捐棄前嫌，重新攜手以應付危局。從此，北袁南張，一個在朝，一個在野，遙相呼應，縱橫捭闔，在晚清政局中起了重要作用。
1905年，任江蘇教育會會長，創建南通博物苑。
1906年兩廣總督岑春煊派親信到上海，請張謇出麵組成立憲團體，張謇與擁護清廷預備立憲的江、浙、閩的紳商名流，在上海組成“預備立憲公會”。岑春煊的幕僚鄭孝胥被舉為會長，張謇、湯壽潛任副會長，張元濟、夏曾佑、王清穆、雷奮、許鼎霖等都是會中的主要人物，郵傳部侍郎沈雲沛也與立憲公會有關係，袁世凱亦企圖插手。因此，在立憲運動中，預備立憲公會具有領袖群倫的重要地位。加之張謇在政界、實業界早就卓有聲望，因而無形中成為東南立憲派的領袖。