1999年，張鋼等人終於熬製出了小肥羊秘方。準備開店前，大家正在發愁該起個什麼名字時，張鋼隨口說了句“小肥羊”，一旁的媳婦當即激動地說：“這個名字好啊，又與涮羊肉有關，吃完了肯定忘不了，又好記，就這個吧。”就這樣，“小肥羊”誕生了。
1999年8月8日，湯料經過改進的小肥羊涮肉火鍋正式開業。張鋼與老朋友陳洪凱共同投資，成為小肥羊最初的創始人。
涮羊肉蘸小料，傳統吃法一傳就是百年。在這種吃法中，附屬原材料配料繁雜，麻醬、蝦油、腐乳、韭菜花，樣樣不能少，調製起來非常麻煩，因此好的涮羊肉店必須配備技術精良的配料師父。沒有調配精良的佐料，羊肉涮久了，湯料會變得乏味。而小肥羊理直氣壯地把複雜的事情簡單化，不蘸小料吃火鍋，使得小肥羊的火鍋標準化，為連鎖經營提供了極大便利，也省卻了傳統火鍋製作的盤盤碟碟。
除此以外，中式餐飲口味過於依靠廚師，這是中國餐飲企業不成規模的主要原因之一。一百個店一百個廚師一百個味道，不能標準化，也就很難成規模。傳統火鍋配料師父是稀缺物品，遏製著涮羊肉產業的規模化經營。小肥羊湯鍋底料是工業化生產，有條件進行質量控製，也能統一口味。因為統一配送湯鍋底料，省略了廚房加工的過程，也解決了中餐餐廳廚房麵積過大以至營業麵積不足的問題。
而且，張鋼最先意識到采用內蒙羔羊肉作為主要原材料，在加工環節、屠宰環節使用排酸工藝，羊肉排酸後，膻味就降低了，羊肉入湯後就比較鮮香。為此，小肥羊在錫林郭勒大草原上建立了肉業生產基地。內蒙的羔羊肉和自己獨特配方的火鍋底料做到了可控，小肥羊也就從餐飲行業最難控製的產品角度建立了一定的壁壘。這為小肥羊的規模化、連鎖化經營埋下了伏筆、打下了良好的基礎。
直營戰略
小肥羊第一家店，每到就餐時間就人滿為患，僅僅兩個月，張鋼不得不啟動第二家小肥羊，而第二家店也一樣紅火，不停地翻台――這讓張鋼看到了連鎖發展的必要。於是，在特許加盟的連鎖鏈條上，小肥羊在全國一路攻城略地。
2002年，小肥羊的營業額達到25億元，一躍成為中國本土餐飲業的老大。這一年小肥羊三歲了，速度快，規模大，問題也就出來了。
小肥羊的連鎖類似於區域主加盟商的區域管理模式。在前期，這種模式可以化整為零，在各省找一個單店作為一級加盟商，讓其對當地投資者進行言傳身教，在一定區域內打開了市場，每一個店的成功緊接著可以引來更多的加盟者。想加盟的人主要向一級加盟商申請，各地單店主要對一級加盟商負責，總部主要對一級加盟商負責，一般一級加盟商報上來的新加盟者總部都會允許加盟，這樣就減少了很多繁瑣環節，使整個企業飛速發展。但是，由於加盟控製的隨意性太強，造成小肥羊各地形象不統一，財務、預算監控不善，總部與單店溝通過少，責任模糊等諸多矛盾。
代理經營不僅是經營權的簡單出讓，而應包括商標持有者對代理商的有力監管。加盟店要的是利益，而張鋼要的是規模效應，小肥羊總部與加盟商之間出現了矛盾。這時，一些加盟店被曝光出現衛生質量問題，甚至被當地衛生主管部門亮出了紅燈，這些嚴重影響了小肥羊的品牌形象。
加盟店為小肥羊的擴張立下來了汗馬功勞，可如今張鋼不得不在這員“猛將”上動刀子了。從2003年底開始，小肥羊抵禦住了各地不斷要求加盟的申請，大刀闊斧地進行全麵的戰略調整，將前期追求加盟數量的擴張模式調整到專著品牌信譽、確保穩健經營的方向上來。對於各地合約到期又做不好的加盟者，小肥羊一律收回改為直營；堅定地將上海、北京、西安、深圳、天津等五大城市定為直營的戰略城市；同時總部明令，往後隻要是肯德基、麥當勞設點之處，鄰近小肥羊的店麵全部都得直營。
2004年，小肥羊5歲了，加盟服務中心在北京成立，負責嚴格審查每個加盟者的申請要求，掌控和監管加盟店。從2003年以後，小肥羊的加盟店和直營店一直經曆著調整，經過幾年不間斷地清理、調整和規範，小肥羊公司的連鎖店數量已由最高峰時期721家減少到326家（直營店105家，加盟店221家）。