國務卿的第一人選是阿肯色州的參議員J·威廉姆·富爾布萊特。但是盡管富爾布萊特舉止溫文，獲得過羅茲獎學金，而且自命高尚，卻總是能夠獲得種族主義者的選票。他把自己的名字和聲望和“南部宣言”聯係了在一起——這是一篇令人反思而冗長的演講，在這個演講中，南方抵製1954年最高法院做出消除公共學校的種族隔離的決定。鮑比指出，讓富爾布萊特就任國務卿一職，這對蘇聯的思想宣傳無疑是一份大禮，並且一定會激起全球發展中國承的憤怒，肯尼迪不情願地放棄了這一想法。“要是在內閣中有一個我很熟悉的人，那就太好了。”他充滿渴望地說。
沃爾特·立普曼是美國最具有影響力的政治家之一，他強烈建議肯尼迪任用有魄力而又絕對聰明的麥克喬治·邦迪做他的國務卿，他是哈佛大學的院長和曆史教師，肯尼迪覺得很有趣，對特德·索倫森說：“任用一個41歲的人為國務卿，這也許是個好主意。”但是最後，邦迪被排除掉了。他不僅太年輕，而且還是一名共和黨人，肯尼迪願意內閣中有共和黨人，但不能讓他們身居太多高位。邦迪最後成了肯尼迪的國家安全顧問，這一職位使他比內閣中的任何一名成員都親近總統。
有人向他建議洛克菲勒基金會的負責人迪恩·臘斯克，他是一個來自南方的領羅茲獎學金的學者，但他是一個中間派。二戰時，臘斯克曾在緬甸服役過，也曾在朝鮮戰爭時擔揮助理國務卿，更是一位遠東問題的專家。12月初，與臘斯克素未謀麵的肯尼迪會見了他，並告訴臘斯克，他正在尋找正適的人選來掌管國務院。“你不把這個職位給阿德萊·史蒂文森嗎？”臘斯克問道。
“不，阿德萊也許會忘記誰是總統，誰才是國務卿。”肯尼迪諷刺道。
自從他們12月8日的那次會見後，肯尼迪發現很難排除臘斯克。表麵上臘斯克就像肯尼迪那樣富有魅力，但他的與眾不同暴露了他的出身——他是來自佐治亞洲的一個窮小子——這破壞了整個對話。經過了尷尬的半小時會麵後，臘斯克離開了，他確定自己與國務卿一職無緣了，但是第二天，肯尼迪讓他過去，告訴他國務院屬於他了。
肯尼迪已經告訴過史蒂文森他無法擔任國務卿一職，但是讓他擔任駐聯合國大使這一職。肯尼迪讓這個職位聽起來是除了總統一職之外，政府最重要的職務。沒有當上國務卿讓史蒂文森很沮喪，他說他願意考慮一下。肯尼迪感到厭惡但並不驚訝，這一點恰恰證明了史蒂文森的軟弱和優柔寡斷。
12月8日下午，史蒂文森來見肯尼迪，告訴他他願意擔任聯合國大使這一職，前提是他不用向邦迪或臘斯克彙報。肯尼迪向他保證：“我才是你的老板，你可以直接和我聯係。”
財政部長的首選是羅伯特·臘維特，他是名共和黨人，在華爾街威望很高，並且是前戰爭部副部長。但是臘維特告訴肯尼迪他的身體狀況使他無法接任這職位。他不久會動一次大手術。他向肯尼迪推薦了一些人，包括福特汽車公司的新總裁羅伯特·麥克納馬拉。
正當麥克納馬拉的名字在被詳細討論時，肯尼迪在《時代周刊》看到了一篇稱讚他的文章。麥克納馬拉不僅是個統計方麵的專家，一名學者，還是個運動方麵的天才。他喜歡登山、滑雪，借此來放鬆自己。雖然是個百萬富翁，但他就像大學教授那樣住在安娜堡。他滿足於自己駕駛著那輛又小又便宜的汽車，而不是坐在豪華的林肯車裏讓司機給他開。
12月8日，就在他與臘斯克第一次見麵後不久，他在喬治墩北街的房子裏接見了麥克納馬拉，這也是他們的初次見麵。閱讀廣泛的麥克納馬拉突然問到：“《勇者側影》真的是您寫的嗎？”
肯尼迪告訴他真的是他寫的，並問他是願意當財務部長還是國防部長。在考慮了一個星期之後，麥克納馬拉告訴肯尼迪他更願意當國防部長，但是有一個條件——那就是得讓他自己來挑選下屬。“就這麼定了。”肯尼迪說。
第二天，《華盛頓郵報》說他將任用麥克納馬拉為國防部長。“他們怎麼知道的！”肯尼迪非常憤怒。他還沒對外公布這件事，後來他才意識到泄露這件事的人正是他自己。兩天前，他和《郵報》的發行人菲利普·格蘭哈姆打高爾夫時，津津樂道地談論著麥克納馬拉。要格蘭哈姆猜出接下來會發生什麼事一點也不難。
當肯尼迪在物色國務卿及國防部長人選時，同時也在尋找財政部長的合適人選。他與大公司的唯一聯係管道隻有他的父親，而喬·肯尼迪一向都喜歡獨來獨往。除此之外，肯尼迪對商人有著一種知識分子的鄙視。他曾對特裏斯特拉姆·科芬說過，他不明白為什麼艾森豪威爾身邊圍著那麼多商人。“我不明白，他怎麼受得了這些人，這些商業大亨從頭到尾都讓人厭煩。除了錢之外，他們就不會談論別的事情。”
但是沒有總統希望避開經濟，即使他們成功的避開了商業大亨。肯尼迪想為新職做一些準備，他請來哈佛大學的三位著名的經濟學家——約翰·肯尼斯·加爾布萊斯，西格幕爾·哈裏斯和保羅·塞繆爾森——為他做精心指導——如果不是補救性的指導的話。在經濟和文化發展組織（OECD）於1960年秋天成立時，還有多少事等著肯尼迪去做就開始見分曉了，肯尼迪向其一個朋友坦白說他並不知什麼是OECD，更不知道它是幹什麼的。