雖是第一次回到老家，但他一下子喜歡上了徽州，爾後的數年，他異常刻苦地攻讀，17歲中秀才，23歲考中貢生。同時，他開始了繪畫的實地寫生。
1883年，18歲的黃賓虹首次上黃山，黃山的美麗使他豁然開朗，也正是因為黃山的美使得黃賓虹立誌要當一名畫家，完成自己生命與自然的對接與融合。
從18歲到71歲，九上黃山，他心係黃山情注黃山，創作了許許多多的描繪黃山的詩和畫，其得意的印章刻的五個字是“黃山山中人”。他自擬的一副長聯：“九次上黃山，鉤奇峰，鉤古木，作畫作狂草，洋洋灑灑，渾渾噩噩；一生墮墨池，寫金文，寫大籀，以斜為正則，點點斑斑，淋淋漓漓。”這裏有詩人的理想、畫家的追求，也深深地蘊含著大師對家鄉的依戀。
黃賓虹一生在許多地方留下足跡，1886年，21歲的黃賓虹抵達揚州，廣泛接觸揚州名畫，並師從揚州老畫家鄭珊、陳若木等，對繪畫有了切身的感悟。1906年，41歲的黃賓虹在歙縣新安中學教書，與當地的一些書畫名流切磋書畫藝術，這一段時間他對於“新安畫派”的理解大有精進，繪畫創作也有頗大成就。1907年至1937年，整整30年，黃賓虹一直居住在上海，其間，中國藝術專科學校成立，他曾一度擔任校長。在此期間，他曾多次遊曆徽州，並跑遍全國的名山大川，他的畫作，也達到了爐火純青的地步。1937年5月，黃賓虹受聘於北平藝術專科學校，為該校教授中國文學和美術史，這時候，他已是72歲的老人了。
之後的10年是他繪畫中最為燦爛的階段，他認真總結了自己幾十年遊曆名山大川後所獲得的經驗，家鄉徽州的山水神韻，對他的創作尤有至關重要的影響。曾有人讚歎說：“先生七十後，奪得造化的精英；圖寫自然，千筆萬筆無一筆不是。年過八十，尤見精神。”
(中國美術學院教授 王伯敏)都知道黃先生有學問，黃先生的根底非常好，可是沒怎麼表現出來。你70歲了麼，無非就是一個畫家，到70歲之後，到了75歲，到了80歲，從他自己的思想上講，他有體悟。從變法上麵來講，叫晚年變法，許多有名的有研究的山水畫家對黃先生都是非常尊重的。推動他在晚年的變法，在晚年能夠這麼個變法，確確實實是他自己的根基打得好。
由於長期喜愛麵對自然，黃賓虹具有極其開闊的胸懷，而在不阿時俗方麵，則具有執拗的個性。黃賓虹曾多次慨歎自己的畫要過30或50年後才能為世人理解，在黃賓虹的畫作中，可以說寄寓了他對人生和世界的獨特感悟。而最根本的原因也許是他的心中有著家鄉靈秀無比的山水，正是這種對家鄉山水的直接感受，造就了他那高妙的藝術境界。
在歙縣潭渡黃賓虹故居，“懷德堂”、“鑄園”留下了他年輕時的人生軌跡。
有人曾這樣評價黃賓虹的畫：若論才情之旺盛，黃賓虹不如齊白石。若論思想之謹嚴，黃賓虹不如潘天壽。然而，要論體悟之深邃，則誰也不如黃賓虹。他那混跡於筆墨意象、會心於藝術真諦而不知老之將至的“個體特質”，寓含著人在不斷追求美時所煥發出來的靈性之光。有了這種靈性之光，作畫便可從心所欲不逾矩，從而達到了一種天地之境了。