他還擔心特德在民主黨候選人初選中的對手會是約翰·麥克科馬克的侄子愛德華·麥克科馬克，1961年晚秋山姆·雷伯恩死後，約翰·麥克科馬克繼任做眾議院發言人，肯尼迪很討厭麥克科馬克，他對阿瑟·克羅克說：“你完全不能相信他對你說的話。”
雖然如此，麥克科馬克若當選，他會讓肯尼迪在國會山很難過。肯尼迪請來提普·奧尼爾，他對奧尼爾說：“我正要和麥克科馬克搞好關係，我不希望參議員議席之爭在我們之間展開，另外，我在白宮，鮑比在內閣，我不希望因為第三個肯尼迪又要從政會帶來強烈反應，但是你知道我父親，是他決心要把我以前的席位給特德，整個事情就這麼一回事。”
初選前不久，報紙上爆料特德以前因為請人代考西班牙語而被哈佛大學開除，後來他要求應征入伍，在部隊做了兩年的軍事警察，這樣才得以彌補這一過錯，哈佛允許他恢複學業。
媒體開始大肆渲染這一事情時，肯尼迪既藐視他們也很惱怒。他對本·布萊德裏說：“既然這個已經公開，他就必須為之而鬥爭，這些新教徒們可不好對付，他們反對偷看別人的試卷，他們卻更多地欺詐股東和銀行。”
肯尼迪花幾個小時的時間來和記者們討論怎樣報道這個事件，盡量確保媒體不會破壞特德的機會。初選前不久他對他的職員說：“老天啊，我們自古巴事件以來，沒有哪件事花的時間有這麼長。”
特德以二比一的差額決定性地打敗麥克科馬克，繼而在11月份的選舉中輕鬆戰勝喬治·卡波特·珞奇——亨利·卡波特·珞奇之子。他的競選口號和肯尼迪1952年參議員競選的口號一樣，都是“他能為馬薩諸塞做更多。”
事實上，到了1963年，盡管他的弟弟在參議院，肯尼迪還是必須要和一貫保守的參議院周旋。肯尼迪沒有像艾森豪威爾一樣，盡力打造黨際政治聯盟，他卻習慣於公開指出國會中的共和黨人是“總是說不的人”。他具有強烈的黨派偏見，這是他自己強加的障礙，無疑體現了他競爭心極強。共和黨是反對黨，就一定要打敗反對黨。
結果是一連串的立法失利，包括製定醫療保險的法律，這項法律會為那些65歲以上的人們提供衛生保健服務。不過，最重大的標誌性的失敗是他提議成立住房和城市事務部門，肯尼迪本來打算將此納入他的第一任期的最主要成績，他預先宣布由黑人羅伯特·C·韋弗負責這個部門，他也是住房方麵的專家。
新部門還未成立就在住房和城市事務方麵如此信任韋弗，主管住房和城市事務委員會的官員為此十分生氣，聽起來像是“留職還是辭職”，他們無須選擇該怎麼辦。肯尼迪承認：“我這件事做得過於矯揉造作，當然把他們弄得發瘋。”
每個星期二的早上他會和住房部門和參議院的領導吃早飯，但是這也於事無補，特別是參議院。1963年1月召集的新國會成員陷入困境，新國會成員中大部分是1961年和1962年肯尼迪派去國會山的人。那年國會山沒有任何舉動，自1920年代以來沒人見過這樣的情形，變化不大，甚至還比以往少了一些變化。
從初出茅廬的國會議員到總統，肯尼迪僅僅用了14年時間。這期間，馬薩諸塞州沒有幾個黑人在民權方麵很出眾。肯尼迪於1948年加入全國有色人種協進會，所以隻要有黑人投票，他就爭取他們。除此之外，和其他所有愛爾蘭裔波士頓人一樣，他還在穿開襠褲的時候就對種族歧視的惡行有所耳聞。雖然他的父親很有錢，他也享受著上等人的教育，但是他一直同情所有受壓迫的人們。
在他執政早期，他聽說以前的重量級拳擊冠軍，新澤西州的喬·沃爾科特在國防部做一份低級的工作，沃爾科特為人謙虛，很有魅力，以前他在拳擊場沒賺多少錢，此後卻要依靠福利勉強維持生活。他曾因非法賭博而被判有罪，所以國防部拒絕雇傭他。肯尼迪要他的朋友瑞普·霍頓讓國防部不要堅持這些規章製度，肯尼迪曾任命瑞普擔任國防部助理部長，他說：“過去這些窮人沒地方去，他們要麼去賭博，很多情況下，他們還會信仰共產主義。”可以為新澤西的喬·沃爾科特破一次例。
與此同時，肯尼迪試著向國會遞交一份民權議案，這項議案僅限於改善投票權。肯尼迪擔心這項議案必須要經過司法委員會下屬的一個委員會的通過，這個委員會都是一些北方自由主義者，他們既有民主黨人，也有共和黨人，所有議案都會被他們說成是措辭過於激烈，不能成為法律。
參議院多數黨領袖邁克·曼斯菲爾德也令人氣餒，他告訴肯尼迪這時提交的任何議案都會在參議院受阻以至不能成立，還不談眾議院的情況。肯尼迪甚至都沒有嚐試就放棄立法了。
他和鮑比一致認為向前進的唯一方法是讓黑人注冊投票。肯尼迪兄弟明白一旦黑人投票人數達到一個關鍵點，白人政治家就會開始討好黑人選民，而爭取民權的政治阻礙就會灰飛煙滅。馬塞諸塞州的愛爾蘭和意大利人就是這樣戰勝歧視的。南方的黑人最終也要通過這個方法爭取權利。
肯尼迪頒布行政規則，宣布聯邦政府範疇的歧視是不合法的。他在聯邦政府的規章製度的框架內解決一些地方的歧視問題，比如南方各州的飛機場，有聯邦政府全部或部分出資的公共設施。他還主張政府部門，比如國務院，雇傭更多黑人，並提升他們。政府還取得一項重大標誌性勝利，政府迫使美國國家足球聯盟的最後一隻全白人隊——華盛頓紅人隊雇傭黑人球員，否則禁止在哥倫比亞區體育館比賽。
在艾森豪威爾的政府，勞工部是政府擁有黑人員工最多的部門，勞工部有六分之一的職員不是白人，肯尼迪的勞工部部長，崇尚自由的阿瑟·戈德伯格以此為起點，這樣，勞工部成為評判其他部門的標準。肯尼迪政府或多或少認為如果要產生黑人中產階級，那政府無論如何都要首當其衝，不會在別的地方首先產生黑人中產階級。
盡管肯尼迪個人十分同情非裔美國人，他很清楚富蘭克林·D·羅斯福在他的四次大選中沒有失去南方任何一個州，然而，哈裏·杜魯門卻在1948年因為民權惹怒南方諸州，並丟掉了南方5個州。肯尼迪盤算著1964年大選，他在民權方麵效仿富蘭克林·D·羅斯福——鼓勵平等，但是不冒進，他不會采取杜魯門直白的幹預政策。
肯尼迪惹惱了自己政黨內的超級自由主義者，他兩次央求率直的休伯特·哈姆弗雷出於政府行動的需要不要發表過激言論。哈姆弗雷說這是不可能的。他一輩子都為種族平等而爭論，他不會現在閉嘴的。
無論做什麼還是選擇不做什麼，肯尼迪努力安撫南方各州。他早就宣稱他會“大筆一揮”結束公共住房的歧視問題。肯尼迪當總統後在不停地找借口為沒有實現他的承諾而開脫，但是憤怒的黑人活動家的信簽紛紛湧進白宮。
至於法院任命問題，克拉克·克利福德建議肯尼迪任命最傑出的人，他說：“這樣為整個政府人員任命定下基調。”總統說：“我同意。”可是實際上，他所任命的南方各州的法官都公開宣稱自己是隔離主義者。
在他獲選到就職典禮這段時間，最高法院已經宣布鐵路、公共汽車以及涉及州際貿易的終端的種族隔離是違法的。1961年5月，自稱為“自由騎士”的7名黑人和6名白人宣布以身試法。肯尼迪很震驚，他請來民權顧問哈裏斯·沃夫德對他說：“叫他們放棄。”
沃夫德說：“我認為沒人會立刻阻止他們。”他的話不錯，自由騎士繼續前進，最後導致一場小型騷亂以及阿拉巴馬州安尼斯頓的公共汽車焚毀事件。
隨著民權運動在南方爆發，自由騎士，靜坐罷工的人，遊行示威的人越來越多。肯尼迪盡他所能保持淡漠，但是1962年9月，黑人空軍退伍兵詹姆斯·梅利迪斯準備到密西西比大學注冊入學，即使這樣會付出生命代價。9月25日，梅利迪斯憑著法庭要求該校接收他入學的裁決書，由聯邦執法官和司法部高級官員驅車把他送到牛津的密西西比大學奧利校區。