蔣介石果斷答應了陳立夫的請求。後來葉秀峰、張道藩、徐恩曾皆在“特務機構”擔任要職，尤其是後來的徐恩曾，一下子當了十幾年的中統局掌門人。
蔣介石也算是個誠實守信的人，1928年他再次登上朝綱，便許諾成立這樣一個組織。陳立夫的哥哥陳果夫也借機上書：原來的組織部過於龐雜，辦事效率低下，人浮於事，應該對組織部進行調整，沒有用的科室應該果斷砍掉！組織部隻保留普通組織科、海外組織科、軍人組織科、編審科、調查科、總務科。
當然陳果夫、陳立夫為了擴大自己的勢力範圍，趁機把自己麾下的“CC”分子們倒騰進組織部，由此一來，國民黨組織部幾乎成了陳果夫、陳立夫的天下了。擔任調查科科長的就是陳立夫，而這個調查科也是組織部裏最最重要的一個部門。不過陳立夫擔任該職位的時間並不長，後來由葉秀峰擔任此職。到了1929年，徐恩曾又接替了葉秀峰擔任調查科科長，並且前後從黃埔軍校和中央黨務學校調來20名學員。此後N年，又不斷招收各類學員，組織不斷壯大，最後隻能在黨務調查科基礎上成立特務工作總部，表麵上仍隸屬黨務調查科。徐恩曾掌管的特工總部，就是所謂的“中統”。
黨務調查科成立以後，主要有兩個目的：其一，針對黨內鬥爭搜集情報；其二，反共。前期主要以搜集各派係黨內情報為主，後來逐漸轉向反共。尤其在調查科第一次會議上，陳立夫說：“我們調查科主要任務是：收集黨內異派分子的信息，收集共產黨情報，逮捕共產黨！”會議上亦是熱鬧無比，大家慷慨陳詞。
有人問陳立夫：“組織剛剛成立，人員不夠，如何實現調查工作？”
陳立夫說：“以人為單位，發展成組，一個人負責一個大的方向，人員不是問題！”
還有人問：“現在的重點是什麼？”
陳立夫說：“重點是調查各組織、黨派情報，讓校長清楚地了解各個黨派的現狀。”年輕的陳立夫眉清目秀，像一個溫文爾雅的書生，而會議台下麵的人則個個麵目猙獰，似乎有點不太搭調。
當時陳立夫對此也有點矛盾，為此他去請教戴季陶。戴季陶語重心長地對他說：“立夫，做調查工作離不開這些三教九流、麵目猙獰的家夥，但是這些人更需要一個慈眉善目、有智慧、秉公處理事情的人去管理，你就是這樣的人！你記得十八羅漢麵相猙獰，但管他們的則是麵相和善的如來佛祖，事情就是這樣！既然校長相信你，你就要想方設法讓他滿意！校長對你不薄，你也不要薄情於他！”戴季陶一席話，讓陳立夫茅塞頓開！雖然他年僅28歲，卻顯露出不相稱的成熟。
調查科成立後，陳立夫將其分為兩個組，一組負責調查，另一組負責統計。而負責此項目的人各個身懷絕技，有的懂電台，有的懂情報，有的擅長特務追蹤工作，有的則擁有高超的槍法、頂級的暗殺手段。甚至陳立夫曾在回憶中驕傲地說：“我們的特工甚至比美國人還要厲害一些……”
調查科的用人製度也幾乎是按照現代職能部門的管理條例製定的，可見陳立夫是一個擁有前瞻思想的人。尤其在對人員的培訓、實習方麵也下了極大的功夫。比如一批新人剛剛進入調查科，就先要從基礎做起。首先要了解調查科的主要職能，其次是推心置腹一番長談，能洗腦的則直接洗腦！熟悉完工作職能後，便下派到各個點實習。在實習過程中，也進行詳細的記錄和觀察，以便對實習生進行篩選和歸類。等到實習結束後，再分門別類將實習生分配到各個崗位中！
陳立夫是如此評價黨務調查科的，他認為：特務組織是一個政府必不可少的部門，也是一個搜集機密、控製機密的核心部門。特務活動是為了保護領袖安全，為了維護黨和國家的至高利益，隻有最出色的、忠貞不貳的黨員才能從事這個神聖而不可侵犯的工作！所以在陳立夫的回憶中，總是充滿了對“特務”這項工作的敬意。
正是如此，黨務調查科在風起雲湧的特殊時期誕生了！
到了1928年底，黨務調查科已具雛形。尤其是蔣介石召開反共會議後，陳立夫和他的調查科對反共起了很大的作用。後來黨務調查科與警察署合作，時常打著警察的旗號進行搜查、通緝、逮捕的工作。尤其後來，有大量共產黨叛徒進入“中統”，使共產黨處處遭到重擊，白色恐怖已經拉開帷幕。
陳立夫是黨務調查科的創始人，也是這個組織的靈魂所在。甚至連後來的徐恩曾、葉秀峰擔任了中統局長後，也時常跑到陳立夫的府上商量對策。
29歲的陳立夫本想當一名挖礦工程師，不料卻成了中國最著名特務機構的頭頭，雖不能說是造化弄人，但也是曆史發展所決定的。縱觀整個曆史，陳立夫也僅僅是一個過客，在他走後，徐恩曾等人進一步發展壯大中統，使之成為類似於FBI那樣的著名的特務機構。