1802年，他開始進入政界，先後任馬薩諸塞州的參議員和國會參議員。
1809年任美國駐俄國公使。1814年率代表團與英國進行《根特和約》的談判，從而結束了第二次美英戰爭。1815～1817年任美國駐英國公使。1817～1824年間，任門羅政府的國務卿，在外交方麵做出了傑出貢獻。為了區別兩個亞當斯總統，人們有時候把約翰·昆西·亞當斯稱為小亞當斯。他子繼父業，為古老而著名的亞當斯家族增加了不少的榮耀。
3天以後，當亞當斯宣布亨利·克萊為國務卿時，引起了傑克遜及其追隨者的憤怒。他們叫嚷道：亞當斯和克萊之間肯定搞了一筆見不得人的“肮髒的交易”！“你看，”傑克遜寫信對一位朋友說：“西部的那個猶大早已訂立契約，要伸手去接那30塊銀幣了。”傑克遜派的一家報紙評論道：“美國的道德、自由與獨立已於2月9日斷送在陰謀家約翰·昆西·亞當斯以及野心家亨利·克萊手裏了。”
小亞當斯雖然在競選時采取的手段不夠光明正大，但是一旦上了台，舊有的“新英格良知”就占了上風。身為總統，他力圖做到公正不阿，任人唯賢。他的第一份年度谘文中有一句話，表明了他的國內政策的基調：“文官政府製度的主旨，乃在於使訂立社會契約的各方都得到改善。”他是第一個全心全意讚成由聯邦政府發起“國內改進”運動的總統。他提出要使用聯邦政府的大量稅收來修築公路和運河，派出科學考察隊，建立一所全國性大學和一座國家天文台；他還主張大力擴建海軍以保護美國的海上利益。但是這些國家主義的改革政策遭到了南部奴隸主保守勢力的反對，他們害怕一個強有力的全國政府會幹預奴隸製。因此，亞當斯很多正確的建議，都遭到了國會的拒絕，隻是若幹年以後才被采納。
外交是小亞當斯總統的專長所在。1826年，他極力支持美國參加由拉丁美洲著名政治家西蒙·玻利瓦爾發起的、旨在促進泛美合作的巴拿馬會議。在國會中的南部議員擔心它可能成為譴責奴隸製度的講壇，他們與亞當斯總統的政敵聯合起來，故意拖延批準美國代表的任命，使得這些代表未能及時到達巴拿馬出席會議。
由於自己的每一項規劃幾乎都得不到國會的支持，亞當斯不免顯使。1817～1824年間，任門羅政府的國務卿，在外交方麵做出了傑出貢獻。為了區別兩個亞當斯總統，人們有時候把約翰·昆西·亞當斯稱為小亞當斯。他子繼父業，為古老而著名的亞當斯家族增加了不少的榮耀。
3天以後，當亞當斯宣布亨利·克萊為國務卿時，引起了傑克遜及其追隨者的憤怒。他們叫嚷道：亞當斯和克萊之間肯定搞了一筆見不得人的“肮髒的交易”！“你看，”傑克遜寫信對一位朋友說：“西部的那個猶大早已訂立契約，要伸手去接那30塊銀幣了。”傑克遜派的一家報紙評論道：“美國的道德、自由與獨立已於2月9日斷送在陰謀家約翰·昆西·亞當斯以及野心家亨利·克萊手裏了。”
小亞當斯雖然在競選時采取的手段不夠光明正大，但是一旦上了台，舊有的“新英格良知”就占了上風。身為總統，他力圖做到公正不阿，任人唯賢。他的第一份年度谘文中有一句話，表明了他的國內政策的基調：“文官政府製度的主旨，乃在於使訂立社會契約的各方都得到改善。”他是第一個全心全意讚成由聯邦政府發起“國內改進”運動的總統。他提出要使用聯邦政府的大量稅收來修築公路和運河，派出科學考察隊，建立一所全國性大學和一座國家天文台；他還主張大力擴建海軍以保護美國的海上利益。但是這些國家主義的改革政策遭到了南部奴隸主保守勢力的反對，他們害怕一個強有力的全國政府會幹預奴隸製。因此，亞當斯很多正確的建議，都遭到了國會的拒絕，隻是若幹年以後才被采納。
外交是小亞當斯總統的專長所在。1826年，他極力支持美國參加由拉丁美洲著名政治家西蒙·玻利瓦爾發起的、旨在促進泛美合作的巴拿馬會議。在國會中的南部議員擔心它可能成為譴責奴隸製度的講壇，他們與亞當斯總統的政敵聯合起來，故意拖延批準美國代表的任命，使得這些代表未能及時到達巴拿馬出席會議。