而由於陳立夫的器重，楊劍虹出任中央組織部黨務調查科采訪股總幹事。黨務調查科剛剛建立，就把破壞中共中央機關作為其工作重點，決定在上海建立情報機構。但黨務調查科尚在草創階段，既缺乏特務工作經驗，更缺乏得力骨幹，亟待找能人鼎力相助。
調查科除總部設在南京外，還在上海、武漢、開封等重要城市設立分支機構，派出特派員。為物色上海機關的負責人，陳立夫、張道藩都煞費苦心。這時，擔任調查科總幹事、暫兼調查科駐上海特派員的楊劍虹想到了他那位同鄉鮑君甫，並將他引薦給了陳立夫和張道藩。楊劍虹向陳立夫和張道藩介紹說，鮑君甫在上海日本人辦的洋行裏做過事，他年輕博學、風流倜儻，又講得一口流利的日語，交際很廣；他與日本人辦的幾家通訊社，以及公共租界和法租界的巡捕都有往來，與國民黨在上海的許多要人都很熟悉。陳立夫和張道藩對鮑君甫都極為賞識。鮑君甫在上海的交友寬廣，與租界當局的關係相當不錯，特別是他與巡捕房建立的關係網，更是為黨務調查科所需要。陳立夫、張道藩很快就認為，鮑君甫是在上海從事反共偵察的理想人選。
鮑君甫信奉“多一個朋友多一條路”的處世哲學，生性善於結交朋友，願意與各方麵的人拉關係，和什麼樣的人都可以打成一片。與陳立夫、張道藩等結識後，每次陳立夫他們到上海，無論公幹還是私事，鮑君甫總是悉心招待，聲色犬馬，無所不至。他們在上海法租界金神父路皇宮飯店定了個房間，時常聚在一起吃喝玩樂。一來二去，他與陳立夫、張道藩成了莫逆之交。
後來楊劍虹代表陳立夫連續兩次拜訪鮑君甫，拉他到國民黨特務機構做事，鮑君甫考慮了一下還是接受了。但他又覺得涉及搞反共，若不告訴共產黨朋友是對不起友人；同時又覺得不取得共產黨朋友幫助，不但事情難辦，也還可能有性命危險。因此，他表麵接受國民黨的任務，暗中又與共產黨聯係。鮑君甫找的這個共產黨人，就是兩年前認識的陳養山。
當國民黨特務機關正式要求鮑君甫出山做楊劍虹的副手的時候，陳養山此時就住在上海的北四川路鮑君甫家中。此時陳養山已和黨組織接上關係，組織關係在中共江蘇省委。出於對朋友的忠誠，鮑君甫經過再三考慮，把楊劍虹要他加入特務機關，準備在上海偵察共產黨及其他反蔣黨派活動，建立情報機構，同租界拉關係等情況向陳養山和盤托出，並誠懇表示願意表麵上接受國民黨的任務，暗中幫助共產黨，將自己了解到的情報及時向共產黨通報。
陳養山在長期的交往中，已十分了解鮑君甫的為人，認為此人有正義感，對共產黨表示同情，並且他生性豪爽，講義氣，以前地下黨有事找他協助，他也願意幫忙。周養山敏銳地意識到這是一個很有價值的情報，便立即向江蘇省委作了彙報。
雙重間諜 巧獲信任
中共江蘇省委接到陳養山的報告，立即將情況上報到中央特科。
“四?一二”反革命政變後，各大城市特別是上海真是風聲鶴唳，政府軍警及外國租界巡捕密探，到處捕殺查抄中共黨、團員。白色恐怖之下，黨內出了不少叛徒。為懲處黨內的內奸叛徒，中共中央軍事委員會下設過“特務工作處”。而後中共中央機關被迫從武漢秘密遷往上海租界，中共中央政治局委員兼中共中央軍委書記周恩來到達上海，奉中共中央命令著手整頓中共中央各機關。為嚴密保衛中共中央安全，中共中央特於同年十二月令向忠發、周恩來、顧順章組成中共中央特別工作委員會（簡稱中央特委），由周恩來任書記，下設中央特科。特委是決策機關，特科是執行具體任務之組織。中共中央給予中央特科下列任務：保衛中共中央機關的安全，了解和掌握敵人的動向，向革命根據地通報敵情，營救被捕同誌和懲辦叛徒。
當陳養山和江蘇省委向中央特科彙報鮑君甫的情況後，中央特科對此極為重視。周恩來覺得能夠在中統內安插一個內線實在是太重要了，當即指示特科負責人之一的陳賡，盡快約見鮑君甫，與他麵談。周恩來同時決定由陳賡和他單線聯係，同時要陳養山迅速從鮑君甫家搬走。
中央特科負責人之一陳賡，是個極富傳奇色彩的人物。他1903年出生於湖南湘鄉市龍洞鄉泉湖村，1922年加入中國共產黨。兩年後進入黃埔軍校第一期學習，與國民黨軍隊中的許多名將是同學。1926年東征時，他還曾救過蔣介石的命。蔣介石對他非常器重，但他不為所動。蔣介石叛變革命後，他更加堅定地反蔣，參加了著名的南昌起義。起義後陳賡潛入上海，在周恩來領導下從事秘密工作，擔任中央特科二科的科長。
就在中共方麵積極準備與鮑君甫建立關係時，國民黨中央組織部調查科也在對他進行“調查”，實際上是對他試探、考驗。1928年4月，楊劍虹讓鮑君甫去找國民黨淞滬警備司令錢大鈞，辦理要求英巡捕房派人逮捕共產黨人的手續。事先楊劍虹什麼消息也不透露，直到他們與英巡捕房的包探（即辦案人員）去搜捕共產黨時，鮑君甫才知道確切地址是在馬立新村。好在住在這裏的共產黨人已經轉移，結果敵人撲了空，一無所獲。
經常周密安排，1928年5月的一天，陳賡與鮑君甫在上海霞飛路的一家咖啡館裏見麵。鮑君甫談到了自己與楊劍虹的關係，並訴說了身不由己當國民黨特務的苦衷。陳賡詳細詢問了他同國民黨人的關係後，當即表示很樂意同他建立關係。陳賡非常誠懇地說：“我們完全理解你的處境和為人，支持你跟楊先生幹調查科的工作，而且希望你同國民黨上海市黨部、淞滬警備司令部建立起聯係，最好與公共租界、法租界的巡捕房搭上關係。”
陳賡和鮑君甫的這次會談，進行得很順利。雙方約定：鮑君甫除為調查科工作外，還要盡快打入淞滬警備司令部和租界情報機構，取得他們的信任；中共地下黨派忠誠衛士連德生給他當保鏢，進行單線聯係，並每月提供可觀的活動經費。總之，需要中共方麵提供幫助的，中共方麵一定盡可能滿足。當時陳賡從衣兜裏取出了一根金條遞給鮑君甫：“這點黃金你先拿去用，以後每個月我們給你三百塊光洋，特別花費再當別論。”