為了改變西北地區科研事業幾近空白的狀況，加速大西北經濟建設的步伐，中央決定設立中國科學院西北分院。1954年7月西北大區撤銷後，中國科學院西北分院籌備委員會在西安成立，盛彤笙調任西北分院籌備委員會第二副主任委員。依據中科院提出“分院院址根據開發西北資源的長遠計劃，以在蘭州為宜”的要求，盛彤笙與籌委會另一名副主任委員董傑，年底專程到蘭州選址。甘肅省委第一書記張仲良對在蘭州選址建分院非常關心和支持，熱情接待了籌委會領導和選址人員，並說：“地方早準備好了。一塊是泥窩莊（即現寧臥莊），一塊是段家灘，由你們挑選。”經過認真考慮，他們最後確定建在盤旋路東北側的寧臥莊，征地1000畝。
1956年5月，籌委會從西安遷至蘭州，主任委員改由甘肅省委第一書記張仲良兼任，盛彤笙任第一副主任委員。當時的籌備工作非常繁忙，絕不亞於籌建獸醫學院。盛彤笙日夜操勞，為分院的建立竭盡全力地工作著，很多事情都要找領導定奪，這種連軸轉的高強度工作，使有位領導成員有點招架不住，就在自己家的門口貼了一張字條：“談公事請到辦公室”。而盛彤笙對此有些看法，他認為創業時期，工作千頭萬緒，哪能按部就班呢？於是也在自己家門口貼了字條：“草創時期24小時辦公”。那位領導成員見後，第二天連忙將自己寫的字條撕去。
在蘭州市委、市政府的大力支持下，基建工作從規劃、征地、搬遷到施工建設，進行得十分順利。到1956年底，化工樓、物理樓、檔案館以及兩棟宿舍先後竣工。西北第一個新興的科研機構，在皋蘭山下、黃河之濱悄然挺立。
盛彤笙還給中科院西北分院帶來了嚴謹之風。許多人回憶起當年在分院發生過的一件軼聞：一次領導幹部會議上，總務科長隨地吐了一口痰，很難想象生活細節上一貫嚴謹的盛彤笙能容忍這種不文明的行為，他實在難以掩飾內心的不快，當眾將痰盂端到他的身邊說：“請你以後把痰吐在這裏麵！”就這樣一個舉動，把中科院西北分院隨地吐痰的風氣給治住了。結果這件事在“反右”中卻受到批判，說盛彤笙“瞧不起工農幹部，缺乏勞動人民的感情”。真是欲加之罪，何患無辭！
中科院西北分院籌委會的工作中，最重要的就是籌建科研機構和組建科技隊伍。經過一段時間的緊張籌備，中科院物理研究所蘭州物理室、中科院地質研究所西北地質室、中科院大連石油研究所蘭州分所、中科院地球物理所西北物理觀象台、西北獸醫室等5個研究單位和中科院圖書館蘭州分館相繼成立，一大批科技人員也從全國各地陸續來到蘭州。這裏僅說說西北獸醫室的籌建經過，看看盛彤笙等領導是如何走過一條從無到有、從小到大的發展之路。
作為一個目光深遠的科學家，盛彤笙認識到發展畜牧業是西北經濟建設的重頭戲之一，而落後的獸醫科研事業又製約著畜牧業的發展。他建議在中科院西北分院成立一個獸醫研究室，然後再向國際一流水平的綜合性獸醫研究所過渡。他對該室的籌建，從選擇地址、購置設備、采購圖書到確定工作步驟，都親自過問。同時，更多的是把精力放在調查研究、選才用才上。
經盛彤笙多方努力，1956年從西北畜牧獸醫學院調來了蔣次昇教授，給獸醫研究室增添了很大的分量，成為獸醫研究室的重量級人物。此後，從蘇聯列寧格勒獸醫學院畢業分配來翟旭久，從北京農業大學和西北畜牧獸醫學院陸續畢業分配來袁永隆、陳金水、江敦珍、鄭慎修、劉純傳、張科仁、任正光、瞿自明、張冀奐、侯亦昭、藺誌新、賀敬齋、劉思職、許登艇、肖盡善、王應文等25名科技人員。
要建一流水平的研究所，承擔高層次的研究任務，就必須培養一流的研究骨幹。盛彤笙和蔣次昇除親自指導他們開展一些調查研究外，還選拔部分人員分送有關名校名師那裏深造。其中，張振興送大連醫學院進修；許登艇送北京學習微生物學細菌操作技術和奶牛布氏杆菌病的診斷技術；肖盡善送西北畜牧獸醫學院學習畜禽去勢，後送河南正骨醫院學習中醫的正骨、接骨技術；王應文送西北畜牧獸醫學院進修內科學；翟旭久、陳金水在許綬泰教授指導下進修家畜寄生蟲學，進修期間，翟旭久還發現了一種命名為盛氏許殼絛蟲的寄生蟲新品種；江敦珍、鄭慎修在廖延雄教授處進修獸醫微生物學；張冀奐在謝錚銘教授指導下進修家畜解剖學；張科仁、任正光、藺誌新在西北畜牧獸醫學院內科教研組進修內科診斷和家畜臨床檢驗；瞿自明送東北農學院參加蘇聯專家舉辦的家畜內科學講習班。這些人日後都成為研究所第一代科技骨幹和領導骨幹。