跳高練了兩年，劉翔又被市第二少年體校的一個教練選中，開始練起了跨欄。進入跨欄場地沒多久，劉翔就被孫海平相中。
如果說劉翔是靠兩條腿起飛的，那麼，他起飛的平台，當是他的教練孫海平。孫海平1971年進入跨欄行業，1978年考入北京體育學院專習跨欄，畢業回到上海做了專業跨欄教練。30多年紮根欄田，使得他既有豐富的實踐經驗，也有深厚的理論功底。他清楚記得，許多年裏，為了出成績，他們都依靠疲勞戰術，因為怕白天達不到運動負荷，晚上再用竹竿挑碘鎢燈看清跑道“夜戰”。盡管如此，練了多年，仍然沒有什麼起色。
可是，盡管時代進步了，但這種“傻練”方式卻一直沒被徹底摒棄。雖然孫教練靠自己的經驗帶出了像陳雁浩這樣的國內高手，盡管陳雁浩創造過國家紀錄和亞洲紀錄，但一拿到更高級別的比賽當中就沒戲了。這些國內高手出去參加世界級比賽，往往都是“一槍斃命”，一般國際比賽要鳴四槍：預賽、次賽、複賽、決賽，而中國運動員往往跑完一槍就被“槍斃”回來了。決賽的起跑線對於他們來說，是那麼遙不可及。
孫海平沒有死心。他從劉翔身上看到了勝利的曙光。1998年4月，他看到了訓練中的劉翔，一眼瞅上了劉翔極強的三步節奏感，頓時生出了收其為新徒的想法。可是還沒來得及說出口，他便備戰世錦賽去了，一去三四個月。
當時的劉翔因為訓練相當辛苦又不見成績，並且影響了學業，父母也著急了，怕兩邊都耽誤了，於是，練了一年跨欄的劉翔停止訓練，去了市重點學校宜川中學讀書。當孫海平從世錦賽回來再找劉翔時，劉翔已經回家了。孫海平當即急了，連忙找劉翔，找劉翔的父親，經過再三勸說，劉翔又回到了訓練場。1999年2月，劉翔拜孫海平為師。
這一次，師徒倆決定一同告別常規的傻練。劉翔每周訓練18個小時，平均每天訓練3小時。這使他每天上陣時精力飽滿。玩性十足的劉翔，樂得時間如此充裕，訓練如此輕鬆又有成效。
孫海平對劉翔采取了有別於以往的全新攻略，他從劉翔的節奏感入手，抓住了他神經係統功能特別強、注意力程度極高的優勢，並由此迅速開發出他的潛力。劉翔的訓練成績也由此迅速提高。
與輕鬆的訓練相映成趣的是：劉翔有了脖子上掛著耳塞聽歌曲和吃零食的空閑，並將它培養成為他的兩大業餘愛好。
2000年4月，劉翔參加了全國比賽，誰也沒想到，初次參加大賽的劉翔就得了第三名，取得了其他新隊員磨煉幾年才可能達到的水平。
這樣的超常佳績讓業內人大為驚詫，但更讓人吃驚得合不攏嘴的是一年以後，也就是2001年5月，劉翔在中國田徑大獎賽110米欄分站賽中，連續兩站挫敗自己的師兄陳雁浩。要知道，此時的陳雁浩已經穩坐了八年的全國冠軍寶座。對於這個突然殺出來的“小黑馬”，不少人包括陳雁浩在內都滿懷疑惑。但是，賽後藥檢顯示，劉翔一切正常。
不僅是國內比賽，而且在國際比賽中劉翔也開始嶄露頭角。2000年10月，劉翔第一次出國比賽，便去了遙遠的智利，參加世界青年錦標賽。當飛機經過20多小時的飛行，到達聖地亞哥，劉翔感覺自己像在飛。
比賽時，當發令槍響過，劉翔覺得仿佛天地間隻剩了他一個人。這一次，劉翔跑了13秒75，取得第四名，這是他參賽以來的最好成績，打破了全國紀錄。
這次比賽的最意外收獲是，劉翔找到了比賽時的隨意性和自在，他第一次認識到，原來比賽大可不必把自己搞得那麼緊張，那樣劍拔弩張。
智利之行開了個好頭，從此，隻要嗅著異國的空氣，麵對跑道上的各種膚色，劉翔就會興奮。劉翔在國際比賽上佳績紛呈：2001年，世界大學生運動會他榮獲男子110米欄冠軍；2002年，瑞士洛桑國際田聯一級大獎賽他以13秒12的成績打破男子110米欄世界青年紀錄和亞洲紀錄，排名世界第四；2003年，世界室內田徑錦標賽他獲得男子60米欄第三名，結束了中國男選手在該項賽事中18年未奪牌的曆史。
劉翔成績提高速度之快，連自己的同胞都難以置信，更不要說那些外國人了。國際賽場上的歐美人，自然從不把黃皮膚當回事。決賽的邊兒你們都摸不著，亞洲人天生就不行！“列強”早就作了定論。
因此，發生這樣的事也就不奇怪。那年，劉翔去法國參加世界室內田徑大獎賽，決賽時，一名美國黑人選手摔倒，未完成比賽。劉翔取得第三名。但當他衝過終點回頭看電子大屏幕時，發現上麵打出了“劉翔中途退出”的字樣。