離開了北洋大學，黃汲清想去南方報考孫中山剛辦起的黃埔軍校，可惜身體條件不符而未果；在同學的勸說下，他去報考海關稅務學校，筆試通過了，卻因口試、麵談不符合洋人口味，未被錄取。政治的腐敗、政客的醜惡，在他眼前暴露無遺。此時的黃汲清陷入了報國無門、救國無路的痛苦中，使黃汲清彷徨在人生的十字路口。
北大求學時改名“汲清”
黃汲清再次來到北京，在好朋友的幫助下報考北京大學，結果成績名列前茅。他選擇了地質係，堅定地走上了“科學救國”之路。他還就此改名為“汲清”，意為“廣納新知，博采群書”。而其長達70多年的地質人生由此開端。
當時中國地質學會剛建立不久，北大良好的學習環境、周圍的良師益友、相互切磋的學術氣氛，潛移默化地影響著黃汲清。北大4年，除課堂學習外，黃汲清每學年還必須進行野外地質旅行。他在一、二、三年級，先後考察了北京西山、山東泰山、淄博煤田、內蒙大青山、大同煤田等地質和礦產。
剛讀大三時，黃汲清就展現出了過人的才華。到北京西山做地質調查，他寫出的論文《北京西山之寒武紀及奧陶紀地層》，竟指出了開灤煤礦英國地質學家馬休把因衝斷層重複了的下奧陶統地層分成兩個單元的錯誤。這是他的首篇學術論文，發表在權威刊物《中國地質學會誌》上，得到了中國地質學會和實業部地質調查所頒發的140塊銀元的獎金。
就在那西山之巔，意氣風發的黃汲清賦下明誌詩：“男兒立誌多雄風，等閑總統鄙富翁。但願足踏額非爾士之高峰，痛飲帕米爾高原之晴空。”
畢業前夕，他又隨著當時的北平地質調查所所長翁文灝先生，考察了北票煤田，並在礦上實習。
那時，軍閥混戰仍常年不斷。1926年3月18日，北洋段祺瑞政府鎮壓學生運動，槍殺了劉和珍等進步青年；後來，張作霖又在北京殺害了李大釗、鄧文輝等北大師生，中國北方進入最黑暗的年代。黃汲清對反動軍閥和醜惡政客的倒行逆施深惡痛絕，同時也更增強了他追求民主和科學的信念。
1928年夏，黃汲清以優異成績從北京大學畢業，隨後進入當時的北平地質調查所。在中國地質界先驅翁文灝、丁文江、李四光的麾下，從練習生幹起，跟隨後來慘遭土匪殺害的著名地質學家趙亞曾，北上東北、華北、陝西，南下雲、貴、川，轉戰四方“敲石頭”……
“初生牛犢”不畏科學艱險
黃汲清深知，地質科學是一門實踐性極強的科學；要想有所作為，必須以祖國大地作為背景，積累大量的實際資料，才能有所超越，才能繪出最新最美的圖畫。
到地質調查所不久，黃汲清就接受了一項重要任務，於1928年秋隨當時被地質界譽為“十八羅漢”之一的王竹泉，一道赴東北考察遼寧本溪和阜新煤田。1年後，在完成了這兩大煤田的地質報告以後，黃汲清又隨學長趙亞曾踏上了西南考察的征途，先後踏勘了陝、甘、川、康、滇、黔等省，1年又3個月，徒步萬裏，翻越峰高穀深的秦嶺、大巴山，涉過激流洶湧的白龍江、金沙江，穿越人煙稀少的原始森林，踏過土匪出沒的險惡之地，縱穿四川盆地，二渡貴州赤水河，獲得了極為豐富的第一手地質資料和大量化石標本。
黃汲清與學長趙亞曾，在峨眉山和龍門山白鹿頂的考察過程中，不僅查清了峨嵋聖山的地層層序，特別是首次證實了阿爾卑斯構造在龍門山的存在，將中國地質與近代地質科學發源地的歐洲地質接上了軌，證明了世界近代地質學理論同樣適用於指導中國地質的實踐。而中國的地質實踐，也必將豐富世界地質科學的寶庫。
不幸的是，風華正茂的青年科學家趙亞曾，卻在雲南慘遭土匪的殺害。當時身在四川敘永的黃汲清，悲慟欲絕。但他未被嚇倒，而是肩負著同伴未盡的事業，繼續奮勇向前。他隻身一人，下雲南，入貴州，隨後又加入到時任地質所所長的丁文江率領的川廣鐵路勘察隊裏，終於出色地完成了調查任務。
此次大跨度的時空上的調查實踐，在黃汲清的人生中具有極為重要的意義。艱難險阻磨煉了他的堅強意誌，祖國的壯麗山川陶冶了他的高尚情操，同時血與汗更澆灌出了豐碩的科學果實。
1930年7月初，完成了長達15個月野外調查的黃汲清回到了北京。他首先見到的，就是從河北家鄉來京的趙亞曾遺孀和3個幼小的孩子。他與同仁們發起捐助活動，成立基金會，撫養遺孤。
為了紀念戰友，他夜以繼日，奮筆疾書，以趙亞曾為第一作者，在當年底前便完成了《秦嶺山及四川地質之研究》的專著和地質圖冊。這部著作指出了秦嶺山脈的形成，並將其確定為中國南北方的主要分界線，同時還論及鐵、銅、金和鹽、煤、石油、天然氣、石膏等金屬礦、非金屬礦的分布，對中國地質、地理上的這一關鍵性地區做出了具有重大意義的開創性研究，成為我國區域地質理論的重要經典。