劍橋大學建立得最早的學院是彼德豪斯學院（Peterhouse，彼德屋），由伊利大主教（Ely Bishop）出資建立於1284年。彼德豪斯學院的建立，讓劍橋大學學生和教師有了基本意義上的大學棲身之所，結束了住旅館租民房的顛簸流離的教學生活。這個位於劍橋市中心南側最古老的學院至今還保持著原來的風貌，大石頭的建築，顯示著中世紀城堡式建築的堅實和莊嚴。就規模而言，彼德豪斯是劍橋大學規模最小的學院，隻有三百多名學生，其中約一百名是研究生。
14世紀上半葉迎來了劍橋大學的一個繁華，從20年代到50年代二十多年的時間裏，有五所學院相繼建立，這就是1326年建立的克萊爾學院（Clare College）、1347年建立的彭布羅克學院（Pembroke College）、1348年建立的康韋爾科斯學院（Gonville and Caius College）、1350年建立的三一霍學院（Trinity Hall）和1352年建立的聖體學院（Corpus Christi College）。
克萊爾學院位於劍橋市中心，正門是Trinity Lane，劍河從學院中穿行而過，著名的克萊爾橋把學院的前庭和後花園聯接。克萊爾學院的方庭精致玲瓏，優雅別致。古老的三孔橋克萊爾橋橫臥碧波之上，端莊秀美，如詩如畫。
二十多年之後，在前後六年的時間裏，有四個學院相繼建立。1347年，Pembroke伯爵夫人Marie de St Pol捐資建立了彭布羅克學院，1348年康韋爾神父（Edmund Gonville）出資建立了康韋爾科斯學院，1350年諾威奇的貝特曼主教（Bishop Bateman of Norwich）出資建立了三一霍學院，1352年中世紀的聖體和貞女瑪麗宗教協會（Guilds of Corpus Christi and the Blessed Virgin Mary）建立了聖體學院。
七十多年之後，劍橋大學又有了一個飛躍的發展。1428年，國王亨利六世為來劍橋學習教規的修道士修建了宿舍，後來發展成劍橋大學的第七個學院：莫德琳學院（Magdalene College）。因學院早期隻是修道士的宿舍，學院的學生全為男性，直到20世紀80年代，女性才敲開了這座單一性別的修道士宿舍的大門，莫德琳學院開始接受女性學生的加盟。
1441年和1448年，國王享利六世和王後分別捐資建立了國王學院（Kings College）和女王學院（Queens College）。
國王學院是劍橋大學最著名的學院之一，而學院的禮拜堂，1446年由亨利六世下令建造的國王學院教堂，這一座曆時八十年才建成的教堂，成了劍橋市最具代表性的標誌性建築。
王後瑪格利特捐助始建女王學院之後不久，1455年，玫瑰戰爭爆發，英王愛德華三世的兩支後裔，蘭開斯特王朝和約克王朝的支持者之間，為了爭奪英格蘭王位的繼承權，進行了長達三十多年的戰爭。玫瑰戰爭之後，蘭開斯特家族輸掉了戰爭，女王學院幾乎無錢再建，其後，女王學院由約克家族勝利者愛德華四世的王後伊麗莎白接著資助。女王學院原來的名稱為Queens College，於1831年改為Queens College，以紀念兩位王後共同建設學院的功勳。從學院的建立來看，Queens College似乎翻譯為王後學院更為合適，但是，查了許多中文資料，發現多是譯為女王學院，本文尊重前人的慣譯，在這裏仍然稱為女王學院。
1473年，Robert Woodlark捐資建立了聖凱瑟琳學院（St Catharines College）。這個學院曾招收了劍橋大學曆史上最年輕的學生威廉·沃頓（William Wotton），1676年，沃頓進入劍橋大學的時候還不滿十歲。這位語言天才出生於1666年，六歲時已懂得拉丁語、希臘語和希伯來語三種語言。
耶穌學院（Jesus College）始建於15世紀末的1496年，這個學院處於劍橋市中心東側，毗鄰美麗的耶穌綠地和仲夏之夢，景色非常美麗。
16世紀有五所學院相繼建立，分別是建立於1505年的基督學院（Christs College）、1511年的聖約翰學院（St Johns College）、1546年的三一學院（Trinity College）、1584年的伊馬紐學院（Emmanuel College）和1596年的西德尼蘇塞克斯學院（Sidney Sussex College）。
基督學院和聖約翰學院均由英國國王亨利七世的母親瑪格利特（Lady Margaret Beaufort）捐資建立，兩所學院均位於劍橋市中心區。聖約翰學院則沿劍河而設，建築古典雄偉，環境幽雅，是劍橋大學第二大學院。舉世聞名的歎息橋，就位於聖約翰學院內，連接著學院南岸和北岸的樓群。
1546年由國王享利八世建立的三一學院則是劍橋大學最著名和實力最強的學院，學院校友名人眾多，影響深遠。三一學院財力雄厚，是英國規模第三的地產商，僅次於王室和教會。牛津大學也有三一學院，據說，可以不離開三一學院的地產，從劍橋走到一百多公裏外的牛津。
伊馬紐學院由彌歐德梅爵士（Sir Walter Mildmay）出資建立，西德尼蘇塞克斯學院則是根據蘇塞克斯伯爵夫人西德尼女士的遺囑，在其家族產業上建立。兩個學院都靠近市中心，規模中等。
西德尼蘇塞克斯學院之後，在長達二百年的時間裏，劍橋大學沒有新的學院成立，直到18世紀的最後一年，1800年，才有一個新的學院出現。這個學院叫唐寧學院（Downing College），由喬治·唐寧爵士捐助。
1869年，劍橋大學又有了兩所新的學院，費茲威廉學院（Fitzwilliam College）和格騰學院（Girton College），這兩所學院的建立都頗有特色。費茲威廉學院位於劍橋西北的城堡山上，建立的初衷是為當時無法承擔學院費的本科生提供住宿。初建的格騰學院是一個女子學院，為女生來劍橋學習提供更多的機會。學院遠處在劍橋城的西北角，據說建得遠離市區是為了避免男生的騷擾。時至今日，依然感覺格騰學院的地理位置有些偏遠，當時的男生，如果真想騷擾一下格騰學院的女生的話，還真的需要立定心意才會過去。格騰學院在建立一百多年之後，於1979年向男生打開了大門。
劍橋大學目前最大的女子學院紐納姆學院（Newnham College）建立於1871年，位於劍橋市的西南，學院的建築頗具特色，一律的紅房白窗，清麗高雅，具有女性的清秀文雅的高貴氣質。
19世紀的最後二十年，有三個學院建立，分別是建於1882年的塞爾溫學院（Selwyn College）、1885年的休斯學院（Hughes Hall）和1896年的聖艾德蒙學院（St Edmunds College）。塞爾溫學院是為紀念塞爾溫（George Selwyn）主教而建的，塞爾溫是新西蘭的第一任主教。休斯學院起初是一個女子學院，現在則招收二十一歲以上的成年男女學生。聖艾德蒙學院建於劍橋西北的城堡山上，建立的初衷是為了安置非英國國教教徒的學生和羅馬天主教的學者來劍橋學習。
20世紀，劍橋大學有了八所新學院，分別是1954年建立的紐霍學院（New Hall）、1960年建立的丘吉爾學院（Churchill College）、1964年建立的達爾文學院（Darwin College）、1965年建立的克萊爾霍學院（Clare Hall）、露西卡文迪什學院（Lucy Cavendish College）和沃弗森學院（Wolfson College），以及1979年建立的羅賓遜學院（Robinson College）。另外，1695年始建於倫敦的霍默騰學院（Homerton College）於1976年加盟劍橋大學。
紐霍學院也位於城堡山上，是劍橋大學目前的三個女子學院之一。劍橋大學各學院的名稱都是以人名命名，以捐款人的名字或者根據捐款人的意願命名，隻有紐霍（新學院）例外。學院建立時，盡管創建人作了大量的努力，但卻沒有找到足夠的捐款基金，所以一直以新學院為名（通譯紐霍學院）。之所以保留著這樣的名稱，是因為學院創始人第一任院長璐絲瑪麗·默裏（Rosemary Murray）確信終有一日會有慈善人士為學院捐贈足夠的基金以保證學院的發展，屆時再以捐款人進行命名。五十多年之後，2008年6月，學院獲得了來自Ros and Steve Edwards的三億英鎊的捐款，這是劍橋大學八百年曆史上數量最大的一筆私人捐款。為了紀念璐絲瑪麗·默裏院長的卓越遠見和愛德華茲家庭的慷慨，紐霍學院更名為默裏愛德華茲學院（Murray Edwards College）。
丘吉爾學院是為紀念英國著名政治家丘吉爾而建的，達爾文學院則為紀念偉大的生物學家達爾文而建立。這一年建立的達爾文學院和克萊爾霍學院都是研究生院，隻招收研究生，而露西卡文迪什學院則是女子學院，隻招收二十一歲以上的成年女生。
1965年建立的還有一所學院為沃弗森學院，建立這一所學院的目的是為了提供更多研究生名額和院士名額，以促進大學的更快發展。學院原名為大學學院（University College），1973年改為現名，以紀念沃弗森基金的慷慨捐贈。