一九五三年七月二十一日，張稼夫在科學院第二十三次常務會議上的報告中，提出了建立學部的完整構想。當時的想法是：“成立學部，以改善學術領導工作，擴大學術領導機構。擬分為基礎科學、技術科學、生物科學、社會科學四部。學部之下成立部務委員會；部務部委會下設常務委員，常務委員建立工作會議，吸收秘書工作人員參加。”
一九五五年一月六日，中科院黨組第一次會議討論籌建學部問題，認為這是當年黨組壓倒一切的任務。在這次會議上，對於組建學部的工作機構和相關人員都進行了討論。經過近半年的緊張工作，一九五五年五月九日，科學院黨組致函中宣部，彙報根據中央政治局會議精神對學部委員名單所作的修改情況，學部委員名單由二百三十八人，減至二百二十四人。中央審批時，又加了十一人，最後名單成為二百三十五人。
科學院在給中宣部的信中認為，學部委員選定的標準是從學術水平和政治情況兩方麵考慮。總的原則是：“學部委員必須是學術水平較高，在本門學科中較有聲望，政治上無現行反革命嫌疑的人。”
根據這個原則，科學院定出了不應列入的三條標準和應列入的四條標準。不應列入的三條標準是：
一、學術水平較高，但政治上有嚴重的現行反革命嫌疑者。
二、學術水平較高，目前雖無現行可疑情節，但因曆史上有嚴重惡跡為科學界所不滿者。
三、學術水平一般，在本門學科中威望不高者。
應列入的四條標準是：
一、學術水平較高，政治上雖有某些可疑情節，但無適當理由向科學界進行公開解釋或因國家建設的需要，目前擔任著國家機關或企業廠礦重要職務而不能不用者。
二、學術水平雖然不高，政治上也無可疑之處，但因該學科人才十分缺少，必須適當照顧者。
三、舊科學界代表性人物，然有的學術水平不高，有的學術觀點陳舊甚至反動，為了照顧舊的科學傳統。
四、由於工作需要，黨派到各學術部門從事學術組織工作的共產黨員，雖然學術水平不高或懂得學術很少。
當時科學院對中國科學界的總體評價是：科學基礎仍很薄弱，學術水平一般不高，各門學科的發展亦不平衡，舊科學家中政治情況又比較複雜。
應該說，一九四九年前後，新政權對未來科學體製的設想還是非常努力。竺可楨在參加會見蘇聯文化藝術科學工作者代表團時曾問及蘇聯科學院院士的選舉情況，政權接收過程中，比較早地考慮到了未來中國科學體製的製度設計，當時建立院士製度是高層和知識精英共同的理想，作為向院士製度過渡的一種設想，建立學部是一種臨時選擇。一九五五年五月三十一日學部成立前一天的預備會上，郭沫若說：“科學院應該以院士、通訊院士為基礎的，中央已交給我們建立院士製度，學位製度的任務了……正式的科學院需要等院士大會選出院長、副院長、及主席團，學部委員會是產生院士的基礎。”
一九五五年二月十二日科學院在給周恩來和陳毅的一封信中認為，對於原中央研究院的院士，中國科學院成立時沒有承認，現在承認這些院士，他們不知該采取什麼態度。信中說：“如果我們采取‘寧缺勿濫’的方針，則有許多資曆老而學術上有錯誤或沒有成就者，如陶孟和、馬寅初、馮友蘭等人就勢必被淘汰，這樣做不利於團結也不利於當前的工作；如果把現在大陸的一九四八年選的院士都承認下來，再另增加一批新院士，則對比之下人選就勢必太多太濫，如選擇不當反而會造成新的糾紛。”所以他們建議，先以“學部聯席會議和院務委員會”的組織作為正式建立院士製度以前的過渡形式。陳毅在學部成立後的一次學部聯席會議上特別強調：“我們科學院現在也是先搞學部，再過渡到院士製度，選舉院長，從由下而上，再由上而下。也有一個辦法是先搞一批院士、選舉院長，再搞學部，由上而下，這樣最不得人心。”