霍去病18歲的時候，靠著衛青的引見而見到了漢武帝，結果一見麵就受到武帝的寵愛，當了皇帝的侍中。侍中是在宮中服侍皇帝的官員，在漢武帝之前，一直是比較卑賤的雜役，而漢武帝的時候，由於大批任用中下層人士擔任此官，並且賜予他們在宮中自由來往的特權，所以這個職位就成了他們向上快速升遷的跳板。霍去病被任命為侍中，就意味著漢武帝要對他進行快速提拔，而之所以霍去病受到漢武帝如此的青睞，一是因為他是衛子夫的外甥，漢武帝對他自然另眼相看；二是因為他的舅舅衛青的軍事才能在此之前已經有所發揮，讓漢武帝比較滿意，所以對霍去病的能力也比較信任；三是因為霍去病本人的外形和言談舉止確實有過人之處，讓漢武帝覺得這個隻有18歲的少年可能會是一個不凡的人才。
霍去病雖然沒有含著“金湯匙”出生，但是卻坐上了通向富貴的“金馬車”。
因為他善於騎馬射箭，所以在他擔任侍中之後，曾經兩次隨從大將軍衛青出征，而漢武帝也有意讓他建立一些功勳以便提拔他做更高的職位。衛青得到了漢武帝的授意，撥給霍去病一些壯勇的戰士，任命他為剽姚校尉。他率領這些兵士們采取突擊戰術，離開了衛青率領的大部隊幾百裏，尋找有利的機會對那些散居的小股匈奴勢力進行突襲。這種戰術的結果是，霍去病的敢死隊所斬殺的敵兵數量超過了他們的損失。
霍去病的戰績報告到西漢的都城，漢武帝十分高興，他說：“剽姚校尉霍去病殺敵2028人，其中包括匈奴相國和當戶，殺死單於祖父一輩的籍若侯產，活捉單於叔父羅姑比，他的功勞，在全軍兩次數第一，劃定1600戶封霍去病為冠軍侯。”
霍去病初出茅廬就取得這樣的勝利，自然是非同小可。而這次勝利，一半是因為他突襲的戰術獲得成功，另一半則是他的運氣確實好，那麼多匈奴的高層人員都被他的突襲所擊斃。如果霍去病所殺的不是這些人，而是一些藉藉無名的普通匈奴人，那麼這次勝利的含金量將會大打折扣。而且，如果他不是皇後衛子夫、大將軍衛青的外甥，這樣的功勞也最多隻是讓他獲得一些賞賜，不會輕易被封侯。霍去病雖然一戰成名，並且頭上籠罩著諸多的光環，但真正支撐著他的，卻是他身後那根柔韌的外戚裙帶。
史書上對霍去病的記載，除了他輝煌的戰績之外，其他方麵都是寥寥幾筆，好像他隻是為了戰爭而生一樣。其實不然。他在以外戚身份受到重用又以軍功獲得爵位之後，並沒有像其他外戚一樣開始在政治上施展拳腳，這與他的舅舅衛青截然不同。衛青在當時炙手可熱，在朝廷上也頻頻發言，風頭甚至蓋過了宰相。而霍去病則並不顯露自己在政治上的抱負，也很少參與政治上的活動。少年時代貧賤的經曆，讓他變得成熟，他深知自己的功勳還遠不足以讓自己染指中央政治，他隻是靠著外戚這個身份才受到皇帝的青睞。所以，他一麵韜光養晦，一麵等待著再次施展自己才能的機會。因而，他在封爵之後，因為沒有大的戰事，所以沉寂了三年。
漢武帝為了表彰霍去病的功勞，為他修蓋了府第，讓他去看看是否滿意，他回答說：“匈奴未滅，無以家為也。”這句話說出了他內心的誌向和抱負，更重要的是，他的誌向和抱負，與漢帝國的既定國策及漢武帝的願望完全合拍。從此以後，漢武帝就更加重用和喜愛他。
三年之後，漢武帝任命他做驃騎將軍，這次他不再是一個隻有800壯士的敢死隊隊長，而是一個指揮1萬騎兵的大將了。當霍去病隻有800人的時候，他憑著巧妙的戰術打擊匈奴，獲取勝利；而當他手中的兵將超過當初十幾倍的時候，可以讓他展現自己軍事才華的舞台就更大更寬敞了。這一次，霍去病憑借手中的1萬精銳部隊從隴西出擊匈奴，與匈奴人短兵相接，殺死了匈奴人的折蘭王、盧胡王，並且抓獲了匈奴渾邪王的兒子及相國、都尉等高級官員，殲敵8000餘人，還繳獲了休屠王的祭天金人。
顯然，這次勝利比上一次更加能夠激勵漢武帝開拓邊疆、擺脫匈奴騷擾的信心，於是，漢武帝對他進行表彰，並且賜給他2000戶的食邑。
在讚歎霍去病抗擊匈奴的功績時，我們可以聯想一下，與他同一時代的飛將軍李廣和霍去病采取的戰術差不多，都是先用突襲騷擾的辦法撕開匈奴的防線，然後進軍正麵和匈奴大軍交鋒。可是，李廣無論在可以指揮的軍隊上、後勤供應上、天時地利上，都不如霍去病，所以一個成功一個失敗，一個封侯一個失意。——還應該追問一句，如果霍去病不是外戚，不是皇後的外甥，他會不會和李廣一樣，因為物質條件的限製，以致空懷妙計最後無功而返？
霍去病的戰功越來越顯赫，漢武帝也越來越信任他，他掌握的軍事權力甚至已經超過了自己的舅舅大將軍衛青。有了雄厚的資本，霍去病更是如虎添翼，可以和匈奴展開一場轟轟烈烈的決戰了。
當他和衛青聯合進軍，與匈奴進行最大的一場戰爭時，他們每人指揮5萬精銳的騎兵，幾十萬的步兵，軍需物資更是不可勝數。根據漢朝官府的統計，在他們出兵之前，曾經在邊塞閱兵，那時候馬匹一共有14萬，而他們得勝回師的時候，馬匹已經不足3萬了。在戰爭中消耗的11萬匹馬意味著什麼？那相當於漢朝政府十幾年的軍費投入——這還不算戰爭中死傷的將士、使用的軍需品，如果累積起來，大致的數字是漢朝建立以來近百年積累的物質財富總和的一大半。後代的人看到霍去病抗擊匈奴的赫赫戰績，但是沒有看到他的戰績正是建立在對漢朝物質財富的極大消耗的基礎之上。古語說“一將功成萬骨枯”，實際上遠不止於此。