馬雲從摔倒之處爬起來，舔幹血跡重新上路了。1997年10月，馬雲偶然認識了外經貿部的王建國。不久，外經貿部中國國際電子商務中心（EDI）誠邀馬雲加盟，共創大業。馬雲考慮再三決定再次北上。1997年年底，馬雲帶走了中國黃頁的8個人。後來黃頁中還有人陸續北上進京。
1997年，當馬雲離開中國黃頁時，外經貿部對馬雲說：到北京來吧，來這兒你能幹得更好！於是也就在這一年，馬雲帶著自己的創業班子遠走北京，加入了當時的外經貿部，繼續開發網上貿易站點。就這樣，馬雲在北京租了一個不到20平方米的小房間，沒日沒夜地幹活，給外經貿部做網站，讓外經貿部成為了中國第一個上網的部級單位。
馬雲當時的確做出不小的成績，所以後來他敢於在任何場合口出狂言：我做阿裏巴巴網站不是不能賺錢，而是不急於賺錢！”
外經貿部另成立了一家公司——中國國際電子商務中心（EDI），由馬雲組建、管理，馬雲占30%的股份、外經貿部占70%的股份，不過實際上馬雲一個月就幾千元的工資，其他什麼也沒有。長期以來，馬雲發現很多事情在政府的編製裏很難做，存在著許多說不清的問題。盡管那時，提起馬雲與外經貿部的合作，人們都說那是“中國的夢之隊”，但事實上是怎麼一回事連馬雲自己也說不清楚就在這不清不楚的尷尬境地中，不甘心受製於人的馬雲天天都在思量著一個問題：下一步該怎麼走？馬雲所麵臨的無非是兩條路：留在北京，或者離開北京。若留在北京，機會倒是有，比如當時的新浪和雅虎都希望馬雲去加盟，但馬雲認為北京的網絡太浮躁，很難成事；況且馬雲已經受夠了在政府企業裏做事時條條框框的束縛、磕絆與畏首畏尾。馬雲敏感的直覺告訴自己：中國的網絡形式已經在開始發生變化，全世界互聯網高潮馬上就要到來，留在政府裏對不起這千載難逢的良機。 在一番內心的痛苦掙紮與拷問之後，馬雲又一次做出了他人生中頗具裏程碑意義的決定：南下杭州。
1999年，在一番內心的痛苦掙紮與拷問之下，馬雲又一次做出了他人生中頗具裏程碑意義的決定：南下，回老家重新創業！
就在做出決定的那一夜，馬雲約齊了團隊的所有人，他覺得有必要跟他們打個招呼。一兩年前，馬雲第二次北上時，帶著當年從中國黃頁時期就跟著他的8名夥伴一起出來的。現在，他自己要回老家了，覺得應該把他們都安排好。
在馬雲宣布他要回杭州創業的決定時，幾乎所有的人都驚呆了。按常理說，馬雲簡直是在“窮折騰”。在北京幹得好好的，而且是為政府部門做事，為什麼要再回去過那種苦不堪言的日子呢？
馬雲理解他們的想法，也知道自己的想法不一定會被他們接受。但他還是誠懇地說：“我給你們三個選擇，第一，你們去雅虎，我推薦，雅虎一定會錄取你們的，而且工資會很高；第二，去新浪、搜狐，我推薦，工資也會很高；第三，跟我回家，隻能分800塊錢人民幣，你們住的地方離我5分鍾以內，你們自己租房子，沒辦法打出租車，沒辦法上下班，而且必須在我家裏上班。走還是留，你們自己做決定。”
他本來準備3天時間給大夥考慮，但5分鍾之後，包括他的夫人和5個患難兄弟在內的團隊成員，一致決定“一起回杭州去！”
那一刻，一直堅強的馬雲流淚了，他感到了一股暖流在身上湧動。也就是那一刻，馬雲對自己說：“朋友從來沒有對不起我，我也永遠不會做對不起朋友的事情”。我們回去，從頭開始，從零開始，建一個我們這一輩子都不會後悔的公司。
在北京工作的這14個月裏，馬雲從來沒帶這些人出去玩過。馬雲決定帶團隊去長城玩一次。第二天馬雲和他的團隊遊覽長城。來北京都一年了，大家總是在工作中渡過，從沒有痛痛快快地玩一場，長城除了馬雲陪楊致遠去過一次之外，大家都沒有去過。走在長城上麵，大家的心情特別沉重，沒有人能想通為什麼自己做了那麼多，為公司贏利那麼多卻一分錢都沒有賺到，連在北京立足之地都沒有？記不清是誰，他們中的一個人突然號啕大哭，對著長城大聲喊：為什麼，為什麼。
在離開北京的最後一個晚上，馬雲和這十幾個年輕人聚在了北京的一個小酒館。那天晚上下著很大的雪，眾人大碗喝酒，大塊吃肉，一起抱頭痛哭，最後唱起了“真心英雄”，唱完“真心英雄”就唱老歌，一首接一首，這群走南闖北的漢子們都回避著“離別”這個對他們來說太過沉重的詞語。
許多人都不記得那天晚上馬雲到底說了些什麼，但是那個晚上，酒是熱的，心是熱的，歌是熱的。大家就記得唱了一個晚上的《真心英雄》。許多年以後，這首歌伴隨著阿裏人度過了許多危難的時期，比如說第一次互聯網低潮，比如說非典。隻要阿裏人一聽到這首歌，每個人的心頭都會浮現許多一幕幕的鏡頭，那首歌也許代表了阿裏巴巴的一種精神。無論是誰，隻要是阿裏人，在最困難的時候隻要一聽到這首歌，心中就會立刻充滿感動、充滿希望。