1877年農曆五月初四，張嘯林出生於浙江慈溪縣的一個偏僻農村。張嘯林有個哥哥，叫做張大林，所以父母給他起名張小林。也就是說，張小林才是他的本名。因為虎年出生，所以乳名叫做阿虎。後來張小林出息了，變改名“寅”。以嘯林為號。因此後稱張嘯林。
張嘯林從小喜好打架，經常和同村的孩子打得不可開膠，後來慢慢成了孩子王。黃母見狀，於是決定將他送進私塾念書，於是在1887年張嘯林10歲時，家人將他送進了私塾讀書。結果在讀書方麵，他完全是個木頭。但是搗蛋惹事他可是個高手，整天想著法捉弄別人，跟人打架。1890年，黃金榮父親去世，全家沒了支柱，眼見沒法活命了，黃母就帶著兩個孩子前往杭州，投靠親戚。黃金榮則進了杭州機房學習織紡。但是他遊手好閑的習慣仍沒改掉。反而結交了不少當地的流氓。
甲午戰爭後，浙江省始改軍製，辦起軍事學校。光緒二十三年四月，浙江巡撫廖壽豐創辦浙江武備學堂，這是最早的清軍陸軍學校。武備學堂招收學生的海報被張嘯林看見。這時的他早也已經無心工作，中日和流氓為伍，於是幹脆辭了工作進了武備學堂。在這裏，他認識了張載陽等人，也正是這段經曆，讓他以後在自己的關係網中結交了各地軍閥。
在武備堂學習期間，張清楚自己不是當官的料，所以他的目標也是十分明確——結交人脈，拉攏關係。兩年之後，他覺得自己留在這兒已經毫無意義，同時自己在當地也已經小有勢力，於是退學在紅宸橋南開了個茶館。張嘯林仗著身強體壯，四處橫行霸道，結果惹惱了當地另一夥地痞，1906年的一天，一幫流氓來到茶館，不由分說一通亂打，張嘯林趕忙領著人迎戰，結果寡不敵眾，茶館被砸，他也被逼的逃到別處。張嘯林的老母見兒子年齡已經不小了卻還如此的不著調，又氣又恨，情急之下生了一場大病，沒想到就此了結了一生。
雖然說老娘的死對張嘯林打擊不小，但是他沒別的本事，隻會兩樣——打架和賭錢。於是就開了個博彩的場。結果周圍的農民受他的騙大都數的傾家蕩產，有的甚至家破人亡。1912年春天，春蠶上市，張嘯林知道這正是農民們有錢的時候，於是拉攏一幫同夥連蒙加騙領著當地的農民去賭錢，結果有個農民上有老下有小，全家指望春蠶那點兒錢過日子，誰知道輸了個叮當響，，看看手裏的錢，他怎麼也舍不得把錢就這麼交給張嘯林一夥，於是想逃出賭場，結果被張抓了回來，張為了在手下麵前立威，竟然將人活活打死。這一代人本來就對張嘯林積怨很深，這下一紙狀書把他告上了衙門。
張嘯林提前接到了風聲，於是前往上海逃難。機緣巧合之下，他結識了上海著名的流氓季雲卿。
季雲卿生於清同治七年，無錫縣石塘灣人。早年學做銀匠，後開設茶館、戲院，後去上海，拜青幫“大”字輩頭目曹勸珊為“老頭子”，成為青幫“通”字輩大流氓，並與黃金榮結拜為兄弟。