當時中國搜索引擎市場還處於萌發階段，搜索引擎這一概念對很多人來說非常陌生。就在百度搜索俱樂部成立的一個月之前，即2000年9月Google中文版剛剛推出，短時間內還未形成強大的力量，雅虎也在摸索中，而中國隻有“悠遊”等幾個小的搜索引擎在自娛自樂。此時互聯網界出現了一批早期的搜索引擎愛好者，他們在一些門戶網站的搜索引擎論壇上討論自己的看法，發表自己的研究成果。
其中，一個名叫“搜索引擎9238”的搜索引擎愛好者已經活躍在早期的草根網民中。雖然，早期“搜索引擎9238”還沒有與百度發生關聯，但王湛早就在搜索論壇上注意到了他，經過多次郵件溝通、爭論後，王湛發現此人確實對搜索引擎的認識非常人可及。後來，“搜索引擎9238”針對百度寫了不少批評或建議性文章。這些文章被王湛一一轉到了百度的技術人員那裏，大家根據這些意見修改百度的產品。
對搜索引擎著魔、一心想從事這一工作的“搜索引擎9238”，有一段時間為就業所困擾。2000年，他寫了上述那封後來成為經典的求職信。由於那封後來廣為流轉的求職信，俞軍獲得在新浪和3721工作的機會。就在他有過這一段顛簸經曆的時候，王湛到上海向“搜索引擎9238”發出了邀請。
2001年5月，“搜索引擎9238”終於加入百度。此後，俞軍專心致誌於這份很適合他本人的工作——因為此時的他，已經快速晉升到產品經理，同時他對百度的技術團隊以及未來展望都充滿了希望，所以他當然很敬業很癡迷於這份很對口的工作，當然就為了研究百度搜索頁麵產品的方向和設計。對此，記者羅燕曾這樣敘述道：“俞軍之所以沒有成為另一個似乎內行但在公司內頗為邊緣化的產品人員，因為他很明智的轉變了自己的身份。他沒有堅持自己過去的”批評者“姿態，而成為了一個”建造者“：他每設計一款產品，即使簡單如用戶界麵，也會用大量的數據和事實去解釋自己每一處設定的理由。而其論據，來自於其本人對各種搜索引擎數據的長期監測和分析。據說，在很長一段時間裏，他隻靠一個睡袋住在公司。”
在對百度產品的研究和設計當中，將產品的特性與搜索引擎進行有機結合和良性互補，乃是俞軍在百度工作的精華。在剛進入百度的一年多時間裏，對於工作的專注和癡迷已經成為了俞軍的家常便飯，成就他“搜索狂人”的稱謂的主要基礎也應該在這個階段積累起來的。由於專注，靈感就常常光顧這個搜索狂人。據說，他查看搜索日誌時，他發現很多人都在搜索同一關鍵詞。這就引發了一個樸素的好奇：如果把這些有共同興趣的人都聚在一起，就共同興趣進行交流，豈不是能貢獻更多網頁上沒有的信息。後來俞軍成為了“百度貼吧”的首任產品經曆，這些靈感也為百度貼吧的日後發展打下了基礎。
在擔任產品部門高級經理和總監以後，他將自己個人的直覺和經驗總結為百度產品出台的準則——即在設計一款新作品時，設計師們隻需要回答三個問題：用戶是不是有需要？是不是能對百度的核心搜索業務帶來補充？百度目前是不是擅長？據說，李彥宏曾建議產品部門建議製作一款的產品，但俞所率領產品團隊在研討之後，否決了李的建議。因為俞軍看來，重點不在於考察一個創意的流程有多複雜，而在於是否每款產品都能明確回答上述三個問題。
俞軍對百度的貢獻不僅是在百度與穀歌競爭過程中形成差異化的競爭力的締造者——包括創建了貼吧，百度知道、百度百科以及百度空間等，更重要的是他還為百度招攬了一大批非常優秀的人才，這些人才在日後成為百度差異化競爭的主力軍和核心力量。所有的這些成就，都是李彥宏的宏觀的人才觀以及無為管理而給他們留下的巨大舞台而取得的。而這樣，可以讓百度的一貫理念在用人領域傳承下去。