竺可楨在領導中國科學院發展新中國科學研究事業時，有一個明確的指導思想，即中國科學院在發揮自身優勢時，必須加強和高等院校及各產業部門的聯係。1949年12月19日召開科學院辦公會議時，竺可楨提議成立全國科學研究委員會或稱部院委員會，以協商院外各部門之間的科學技術研究工作。它的任務是在有關政府部門派員參加的情況下，找出迫切需要解決的科學問題，一部分由科學院負責去做；另一部分則可交與合適的部門去做，以免造成研究工作的重複。竺可楨又於1949年12月23日代表中國科學院參加第一次全國教育工作會議，在會上發言表示，中國科學院希望與教育部門加強聯係，建議中國科學院研究人員到高等院校去兼課，把最新研究工作成果滲透到教學工作中去。竺可楨的這些主張對於密切中國科學院與高等院校和產業部門的聯係曾起到積極作用，地球物理研究所和中央軍委氣象局（今國家氣象局的前身）的密切合作就是一個範例。這兩個單位，前者側重理論研究，人才濟濟；後者是中國氣象事業的主管部門。當時地球物理研究所派出陶詩言、顧震潮等高級研究人員，和氣象局共同建立了聯合分析預報中心和聯合資料分析中心，對奠定和發展我國氣象預報事業起到了很大作用。
竺可楨曆來重視人才。建院初期，他從多方麵著手，為中國科學院凝聚研究力量。
首先，院計劃局對全國自然科學方麵人才進行了調查。根據各方麵專家的推薦，當時有相當學術成就的自然科學家為865人，其中174人還在國外。經竺可楨和其他院領導共同努力，爭取了一批具有相當學術成就的科學家先後到中國科學院工作，他們中間有童第周、曾呈奎、貝時璋、莊孝僡、蔡邦華、戴芳瀾、湯佩鬆、殷宏章、潘菽、裴文中、王淦昌、汪德昭、莊長恭、王葆仁、虞宏正、葉渚沛、尹讚勳、黃秉維等。就像當年在浙江大學努力延聘有學術威望的教授一樣，竺可楨為了敦請這些科學家來院工作，曾傾注了不少心血。當時有些科學家在大學裏工作，他曾和教育部領導反複協商，大力爭取。有的成功了，教育部門同意調出，如童第周、曾呈奎等；有的被教育部婉拒，沒有調進科學院工作，但一直和竺可楨保持著密切的聯係，例如蘇步青等。為了爭取尹讚勳來科學院，他曾幾次拜訪地質部副部長何長工，最後終獲同意。當汪德昭、葉渚沛等從國外歸來時，竺可楨自費設宴為他們接風，向他們介紹新中國的情況和中國科學院的性質、任務，動員他們到中國科學院參加研究工作。
為了充實新中國科研人員力量，竺可楨還親自出麵發出函電，邀請在海外他的故交或學生中有成就的學者回國參加建設。在他號召下，有的很快即踏上歸途。成為中國科學院研究力量的骨幹，例如姚錱、施履吉等。
為了彌補科學院研究力量的不足，竺可楨倡導高等院校的教授來研究所兼職，擔任專門委員會的委員，在研究方向任務和人員培養方麵幫助科學院工作。他還認真組織實施科學院和高校共同組建研究機構，例如在北京大學建立植物生理研究室，請當時的北大教授湯佩鬆主持；通過侯光炯教授，在西南農學院設立西南土壤研究室等，對推動基礎研究起一定作用。
竺可楨更對年青科技人員的培養傾注了很大心血。在當時的情況下，他主張多派青年科技人員到蘇聯深造，或隨專家一起赴蘇聯及東歐國家考察、進修。他本人出訪蘇聯和東歐國家時，總是向我大使館詳細詢問中國科學院派去留學生的學習成績，並與他們會見，或進行個別談話，或舉行座談會，或要他們陪伴參觀，擔任翻譯，從中對留學生的業務水平進行考察。曾擔任蘭州冰川凍土研究所所長的謝自楚，就是在當時竺可楨訪蘇時的建議和鼓勵下，選擇了冰川研究專業，後來成長為我國較早從事冰川研究的年青學者之一。
對於剛分配來科學院的大學畢業生，竺可楨總是要與他們見麵，向他們作建國前後的對比，展望中國科學事業的未來，介紹中國科學院的情況，對年輕人提出殷切希望。1954年8月，當年第一批大學畢業生80餘人來科學院報到，竺可楨和他們作了近三小時的談話；同年還有第二批大學畢業生83人，因交通被洪水所阻，延期到北京。報到後，竺可楨又與他們作了同樣的講話。就如同30年代浙江大學新生入學時，竺可楨校長一定要對學生進行國家前途和青年人的任務的教育一樣，讓大學畢業生一踏進新中國的科學大門，就立即意識到自己的責任。
根據當時政務院關於中國科學院應該計劃與指導全國科學研究事業的精神，中國科學院十分注意地方科研工作的發展和新學科研究機構的設立。前者是為了更好地為當地國民經濟建設服務，後者是為了進一步推動新興學科的發展。竺可楨為促進這兩方麵工作不遺餘力。
西北地區占全國麵積三分之一左右，地下資源十分豐富，是我國經濟建設潛在力量很大的地區。竺可楨曾於1954年去黃河流域親自考察一個多月，實地調查了水土流失的嚴重情況。這次考察對竺可楨震動很大，他親眼看到黃河中遊不少地區濫墾濫伐，造成了大量的水土流失。他認為，水土保持工作應該是“麵”的問題，而不是線或點的問題。人類破壞了大自然的生態平衡，如果不采取相應措施，必將受到大自然的懲罰。有鑒於此，中國科學院必須把黃河全麵開發及根治黃河問題作為一個長期的重點工作。這也是較早建立中國科學院西北分院的一個原因。竺可楨於1953年12月、1954年6月，兩次前往西安，與西北地區行政領導商議西北分院建院方案，決定在陝西武功首先建立中國科學院西北農業生物研究所（即今西北水土保持研究所的前身），以適應治黃河的需要，接著於1954年在沈陽又成立林業土壤研究所。以後，在竺可楨的提議和指導下，在蘭州又設立了一係列的研究所，使蘭州成為我國重要的地學研究中心之一。其中有些研究工作，如沙漠、冰川研究，後來都躋身於世界先進行列。
竺可楨密切注視著國際上當代科學發展的動向。建國初期，他深感到舊中國海洋科學事業的落後。他經過一番努力，得到教育部門的支持，首先將山東大學的童第周、曾呈奎教授調來中國科學院，由他們會同原北平研究院動物研究所所長張璽共同主持成立海洋生物研究室，在此基礎上很快發展成為多學科的綜合性海洋研究所，為發展我國海洋科學事業作出了重大貢獻。1964年國家決定成立國家海洋局，統一管理海洋資源調查和開發研究工作，竺可楨對此舉十分支持，從全局出發，同意將當時原屬中國科學院的一部分海洋研究力量劃歸新建的國家海洋管理部門；但是他又考慮到國家海洋局和中國科學院的性質、任務不盡相同，不同意將中國科學院所有海洋研究機構統統劃歸國家海洋局的主張。為了堅持海洋科學的基礎理論研究工作不被削弱，他直接向當時國家科委主任聶榮臻同誌陳述意見，中國科學院的海洋研究所和南海海洋研究所因而得以保留。
為了使科學研究服務於國家邊緣地區建設，中國科學院於1951年5月派出了西藏科學工作隊。經竺可楨精心組織，選派了以地質學家李璞為隊長，大地測量學家方俊為副隊長，共有48人參加的考察隊伍，進行了地質、地理、生物、農業、社會、曆史、語言、文藝和醫藥等內容的考察。這是西藏有史以來第一次有組織的多學科科學考察。在取得了初步成果後，於1952年6月又派出土壤學家李連捷率領的農業科學家共11人再次進藏。此外，根據國家在海南島、雷州半島和廣西南部發展橡膠種植的要求，竺可楨組織了由多學科科研人員組成的考察隊參加調查，這些調查標誌我國早期自然資源綜合考察的開始。
由於綜合性基礎科學的重要性與日俱增，在竺可楨的組織下，一些新的研究所經過調整不斷形成。例如，在中央研究院地質研究所土壤研究室的基礎上，新建立了土壤研究所；在地理研究所測量室的基礎上建立起武漢測量與地球物理研究所；在原植物分類研究所的基礎上，增加了植物生態、植物形態與細胞學、古植物學、植物化學等研究領域，成立了綜合性的植物研究所；在菌種保藏委員會和黃海化學工業研究社微生物發酵研究室的基礎上，吸收了北京農業大學的有關部分，建立了微生物研究所等等。位於蘭州的冰川凍土研究所和沙漠研究所更是在竺可楨的親自過問下建立起來的。此外，有的研究機構是在竺可楨學術思想指導下建立的。竺可楨素來重視並直接參加自然科學史的研究。他認為，曆史上的科學資料不但可以為經濟建設服務，而且還可以幫助基礎科學的理論研究。有鑒於此，在竺可楨的提倡和組織下，由第三曆史研究所（即近代史研究所）和地球物理研究所研究人員，從5600多種地方誌，2300多種詩集裏，收集到從公元12世紀到1955年我國有記載的地震近萬次，再加上1900年以後國內外地震儀器實測所得記錄，彙編成《中國地震資料年表》和《中國地震目錄》，作為地震學研究的參考。在此基礎上又編製出地震烈度區劃，直接為國民經濟建設服務。為了開展中國古代科學史研究，在他倡導下，中國科學院先成立了包括由北京大學、清華大學教授和各部門負責同誌參加的中國科學院自然科學史研究委員會，經常開展學術討論活動。在此基礎上，於1957年正式成立自然科學史研究室，對於推動中國科技史的研究有著重大作用。
從1956年到1966年，這是中國科學院的大發展時期。1956年1月，中共中央召開關於知識分子問題會議，決定加強對科學事業的領導。同年5月，張勁夫、裴麗生、杜潤生、謝鑫鶴等一批領導同誌受中央政治局的指派來中國科學院工作，中國科學院的曆史掀開了新的一頁。由於領導力量得到加強，這10年中，竺可楨的精力主要放在推動和組織自然資源綜合考察工作方麵，他的足跡幾乎遍及除西藏和台灣兩個省區以外的許多地方。
1957年是我國進一步開展自然資源綜合考察的一年。這一年按照蘇聯科學院的建議全麵開展中蘇合作，除繼續進行新疆和黑龍江流域的綜合考察以外，同時組隊進行綜合考察的還有：以考察雲南熱帶生物資源為主的雲南生物考察隊；以鹽湖的綜合調查和開發利用為主要任務的柴達木盆地鹽湖科學調查隊等。在開展綜合考察過程中，從實踐中提出一些問題，急待明確。主要是中國科學院組織的綜合考察工作究竟是什麼性質，與有關各業務部門的關係如何？要不要建立起類似蘇聯科學院的生產力配置委員會？竺可楨認為，自然資源綜合考察是了解自然的一種科學工作，它要組織起包括社會科學在內的多學科，從多方麵進行比較論證，提出多種方案，供計劃部門充分利用自然資源，產生經濟效益作為決策根據。他一再強調，綜合考察工作首先是認識自然，然後才有可能利用自然；而這項工作必須將自然界作為一個整體，通過綜合研究才有可能取得科學的結果。考慮到當時綜合考察工作的科學力量分散在各個部門，竺可楨建議中國科學院有必要正式成立綜合考察委員會，對內專門領導和協調各個考察隊和學科的工作，對外與各部門在綜合考察、資料彙總並綜合研究方麵進行充分合作。他認為，根據中國的國情，進行綜合考察的科學力量分散在包括科學院在內的各個部門，我國不必成立生產力配置委員會。1957年6月18日舉行的第三次院務常務會議，聽取並審議了竺可楨關於加強綜合考察工作的建議，正式批準成立中國科學院綜合考察委員會，任命竺可楨兼任這個委員會的主任。
綜合考察委員會的建立，標誌著我國自然資源綜合考察工作進入了一個新的階段，竺可楨作為這項嶄新事業的奠基人載入史冊。三十幾年來，綜合考察委員會雖然在名稱、建製和機構內涵上有所變化和發展，但是我國自然資源的綜合考察工作始終沿著竺可楨奠基時指明的研究方向前進。
從1957年起，竺可楨以更多時間，親自參加邊遠地區的野外考察，以取得第一手資料，更好地指導自然資源的綜合考察工作。
早在1954年，中國科學院與林業部曾合作進行過華南熱帶作物資源考察，以發展橡膠林為主要任務。竺可楨為此也做了不少工作。1957年2月19日到3月9日，竺可楨會同中國科學院和林業、農業部門的有關專家羅宗洛、吳征鎰、李慶逵等，與蘇聯科學院的七位學者一共40餘人，共同考察了海南島和雷州半島的橡膠和其他熱帶經濟作物的發展狀況，在海南島16個縣市中，足跡遍及了12個。
竺可楨認為，海南島地處熱帶，有著極其寶貴的熱帶氣候資源，主要是高溫多雨，必須予以充分利用。要開發這個地區，就必須適應並保持原有自然狀態的生態環境，使之促進國民經濟發展。在經濟發展過程中，即便要調整生物地理群落的結構，必須建立在了解群落演變客觀規律的基礎上。他指出，在海南島和雷州半島，焚毀森林，挖掘草皮的現象屢見不鮮，這隻能使天然森林演變成石田沙荒，最終破壞了熱帶生物資源，不利於生產的發展。他強調指出，要改造自然，必須首先了解自然，要改造橡膠的習性，必須首先了解橡膠的習性，在海南島應當加強熱帶作物的科學研究，特別是定點觀測實驗。在沒有了解並掌握橡膠生活習性以前，就大舉進行橡膠北移是會招致失敗的。針對雷瓊地區嚴重缺乏具有一定水平的科技人員這一事實，竺可楨隨後於3月11日在廣州召開的華南熱帶資源開發科學討論會上，建議在海南島就地設置熱帶作物研究機構。一年後，他接到設在廣州的農墾部華南熱帶作物研究所所長何康的來信，說他的建議已被采納。
1957年7月。竺可楨又率領中國科學家16人，會同蘇聯科學院生產力配置委員會主席涅姆欽諾夫院士為首的蘇聯專家22人，用一個月的時間，沿黑龍江而上，對兩岸中蘇兩國境內11個城市進行實地考察，提出了黑龍江水力資源開發的第一期工程建議。
1958年8月下旬，竺可楨到蘭州主持了甘青綜合考察隊的工作彙報會，聽取了這個地區綜合考察情況報告後，於9月初趕到了烏魯木齊市，進行他生平第一次的新疆之行，逗留了近一個月，直到10月初才回到北京。這次在新疆，行程超過了四千公裏，除阿勒泰外，足跡已遍及全疆。竺可楨沿途所經，或和中蘇科學家直接進行野外考察、挖土壤剖麵，測量湖水溫度；或深入農舍訪問，了解當地生產現狀和發展潛力；或參觀曆史遺跡，推斷當地自然條件變化和生產的興衰，以古論今，對將來經濟發展提出意見。他這次深入新疆腹地，主要以吉普車為交通工具，經常日行500餘公裏。他以地理學家敏銳的眼光，注意到在天山的賽裏木湖，四周山上未見積雪，以後他查考到南宋時代邱處機曾於10月經過賽裏木湖時，周圍“雪峰環之，倒影湖中”。從而推斷中國十二、三世紀時，天山的雪線大致比現代要低200—300米。他了解到維語克拉瑪依是黑油的意思，不僅實地考察了油田裏的黑油山，而且在南疆也十分注意石油的蘊藏和當地人民采油的經驗。他將沿途所見所聞，擇要記入自己日記，共計三萬餘字。回到北京以後，以《新疆記行》為題，發表文章，熱情宣傳新疆有利的自然條件和發展潛力，謳歌新疆各族人民團結一致齊心協力建設社會主義的生動情景。
1959年，竺可楨又幾次進出我國西部幾個沙漠地區，實地指導了幾個沙漠定位試驗站的工作。在他直接領導和組織下，以中國科學院治沙隊為主體的治沙大軍，浩浩蕩蕩地開進了我國西北部地區的大沙漠。除了在內蒙古的磴口、寧夏的沙坡頭、甘肅的民勤、陝西的榆林等六處建立了綜合試驗站以外，還深入到塔克拉瑪幹、巴丹吉林、毛烏蘇沙漠、河西走廊西部戈壁地區進行實地考察，揭開了中國人民大規模科學治理沙漠的新紀元。
我國水土資源在空間上分布不均勻，按當時的統計，長江流域及其以南地區的徑流量占全國82％，而耕地僅占38％；黃淮海三大流域的徑流量僅占全國的6.6％，而耕地卻占全國的40％，每畝耕地平均占有的水量隻有全國的1.6％；以西北、華北而言，耕地占全國的5.1％，而徑流量僅占全國的7％，這種南方水多而耕地少，北方水少而耕地多的局麵必須改變。竺可楨在組織南水北調綜合考察過程中，希望能選擇一條合理的路線，在適當地段引長江水注入黃河，以豐富黃河水源，滿足北方地區農業生產的需要。他曾於1960、1961年兩次到四川西部甘孜阿壩地區及雲南境內，深入長江各支流的上遊，實地了解當地自然條件、農牧業生產概貌以及人民生活狀況。通過考察，初步認為從長江支流雅礱江引水，穿過巴顏喀拉山口注入黃河是比較合宜的路線。二十幾年過去了，關於南水北調工程的論證仍在東西兩邊深入進行。由中國科學院蘭州冰川凍土研究所派出的又一支考察隊，於1988年5月17日從蘭州出發前往雅礱江上遊進一步考察並踏勘引水路線。按他們計算，如果按竺可楨原來設想引水，引水工程全長約200多公裏，工程完成以後，可使黃河上遊的水量增加180億立方米左右。
竺可楨以70歲高齡身先士卒，在野外考察中，謝絕對他的各種照顧，甚至置個人安危於度外。為了取得直接的認識和第一手資料，他都要親自觀察各種自然現象。在黑龍江流域考察原始森林時，他撥開叢生的雜草，不怕蚊蠅叮咬；在黃河中遊地區了解黃土高原的侵蝕情況時，在濁流中乘坐小船順流而下，曾幾次因船隻擱淺漏水而遇險；在川西高原勘察南水北調引水路線時，時而攀登4000米以上高山，時而又降到河流穀底，麵臨著隨時有可能發生洪水、泥石流、山崩、滑坡的風險；在新疆，越野汽車曾幾次在戈壁灘上受阻，有時就在汽車內宿夜。他這樣不畏艱險、勇於探索的精神，成為一代代科學考察工作者的榜樣。
竺可楨在各處參加考察時，對於亂伐森林、開墾種植的情景極為注意，深感生態環境被破壞的嚴重性。在黑龍江考察時，他從蘇聯海參葳沿江而上進入我國黑龍江省，經綏芬河回到佳木斯，他發現在蘇聯境內森林茂密，但進入我國境內森林則蕩然無存，盡是童山濯濯。在同樣自然環境下，地表覆蓋形成極大反差。在西雙版納，當地刀耕火種現象十分普遍，白天煙霧彌漫，夜間火光熊熊，令人觸目驚心。這裏由於大麵積開墾，同樣造成水土流失嚴重。在海南島的一些地區，由於濫砍亂伐，當時除了椰子和膠樹外，看不到比碗口更粗的樹木，遠處山嶽呈灰黃色，頗像華北幹旱地區的荒山。而公路兩旁的農作物，又是疏疏落落，大片平坦的沙漠地上長滿了矮小的荊棘。在新疆、寧夏，他曾遇到不少來自浙江省紹興一帶的移民青年，雖然鄉音親切，卻引起他嚴重不安。一個專區來了數千名外地青年，大麵積墾荒，除了加速破壞草地以外，在年青人的心靈上免不了打下大漠風沙猖獗的烙印。在河西走廊，他親眼看到植被破壞的情景。蘭新鐵路上的紅柳園本以長滿紅柳而著名，但是1965年夏天他在那裏見到紅柳被大量砍伐，每年要割一千多萬斤。他在行程中親眼看到，每半小時就有7輛卡車，滿載紅柳揚長而去。紅柳是固沙植物，割去紅柳，風沙立即飛揚，並不斷進襲農田和村舍，連世界藝術寶庫敦煌千佛洞也瀕危流沙的包圍之中。竺可楨曾在各種場合不斷呼籲，希望各級政府要重視生態環境，切忌濫墾濫伐，防止水土流失和風沙加劇。他曾明確地指出，在年雨量不足350毫米的幹旱地帶，超過35°坡度的山坡上以及河流的上遊地區應該絕對禁止墾荒。但是在那任意誇大“人的因素第一”的時代，如同馬寅初提出要節製人口卻遭到批判一樣，他的建議也不可能得到重視。