這些情況袁殊還全然不知。一天，夏衍通知袁殊：不要再和小李見麵了，“怪西人案”可能要牽連他……同時囑咐袁殊盡可能打聽案子進展情況。
此時的袁殊已顧不上個人的安危，以中統身份到處打聽“案情”。一天，軍統局的王新衡以朋友身份特來告訴袁殊：“偵緝隊翁大隊長掌握案情，可去找他。”袁殊不知是計，趕到偵緝隊就被扣留了。翁問：“你是否認識這個西洋人？”袁殊答“不認識”。接著，一個剛用過刑的年輕人被帶上來，指著袁殊說：“就是他。”這個人正是交通員小李。於是，袁殊被捕了。
由於從威特曼和袁殊兩人口中沒有得到什麼有價值的東西，國民黨便通過法院判了威特曼20年有期徒刑，袁殊也被判了兩年零六個月。這就是當年轟動一時的“怪西人案”。袁殊先在南京模範監獄服刑，後又被轉人湖北反省院。
得知袁殊被捕後，夏衍等同誌立即著手商量營救，他們知道國民黨最怕日本人，於是夏衍親自用日文寫了封未署名的信，將袁殊被國民黨逮捕的消息透露給日方。不久，上海兩家日文報紙同時登出了“知日派袁殊被藍衣社綁架”的消息，並說“帝國政府正在考慮必要的對策”，給國民黨當局施加壓力。
袁曉嵐得知兒子被捕，病重之時仍出去四處活動。礙於陳立夫的麵子，戴笠對袁殊未予深究。袁殊判刑後發還原籍湖北省反省院服刑，同時，其父袁曉嵐也聘請律師，積極營救，並以老同盟會員的資格給陳立夫寫信。陳立夫回信：“令郎的事知道了。”袁殊在獄中的日子竟比獄外還要逍遙舒適。其間，袁曉嵐病逝，作為長子的袁殊還特意回家扶靈，過後再回到獄中服刑。
被關押的袁殊根據中央特科有關“在被叛徒指認無法隱瞞真實身份時，以不出賣同誌和黨的機密為原則，可以實行‘假自首’以保存力量”的精神，作了避重就輕的內情自白。敵人已掌握的他如實說，敵人不知道的他絕不講。國民黨從袁殊身上一無所獲，便以“危害國民緊急治罪法”對他起訴。
據國民黨特務沈醉回憶，案件線索由軍統湖北站發現，逮捕中共黨員關兆南，並命令他寫信到上海，引誘相關人員來武漢接頭。中共派出陸獨步抵達武漢，旋即被捕。戴笠把陸獨步押解上海，引出了陸獨步的哥哥陸海防。陸海防供出其上司所在，帶著軍統人員於法租界法國公園埋伏。陸海防上司為歐洲白人，陸氏隻知他為第三國際人員華爾敦。法租界巡捕房見被捕者為白人，身上未有物證，甚至連身份證明都沒有，不允立即引渡，羈押看管。次日，陸海防再供出一些與他有工作聯係之人。
據沈醉回憶：“經我去逮捕能記到姓名的有電影女明星××。當時她正在主演一部影片叫《自由神》，特務們把她逮捕以後，曾當麵譏笑她‘自由神今天可能自由了’……另一個被捕的袁×，又名袁××，是個左翼作家，他寫的書和文章都一起被抄，當時也一同受到優待。”沈醉提及的女明星為袁殊在劇社時合作的王瑩，袁、王於1929年已然認識，後成摯友。王瑩被關押一周後獲釋，袁殊因為確曾透過陸海防聯絡“怪西人”，被嚴密盤查。陸海防投降後，向袁殊展示其字跡，袁氏方才明白，一直與他秘密聯係，交代工作的上級，正是陸氏。
王瑩事件告一段落後，戴笠命武漢行營中校法官徐業道，考察袁殊。當時袁殊思想動搖，徐恩曾向他招手，表示允許其加入蔣氏陣容，為抗日大業效勞。
袁殊考慮過後，寫下數十言：“我不認識怪西人，過去也不認識陸海防，但從事過共產黨的秘密情報工作，現在中日兩國的問題是抗日問題，希望蔣先生領導全國人民抗日。”事隔多年，袁殊就此解釋道，陸氏已供出一切，再行隱瞞已無意義。此外，抗日為國人之心願，表明擁蔣抗日，亦無不可。事實上，由於中共和共產國際特工實行嚴密的縱向聯係，在其上級悉數被捕的情況下，袁殊自首，亦未對共產黨的情報係統造成明顯破壞。
被關押一個多月以後，宣判袁殊刑罰。袁殊意想不到的是，承審該案的非並武漢行營軍事法庭，而為地方法院。檢察官以“危害國民緊急治罪法”起訴他，判決時卻以“宣傳與三民主義不相容思想”的“思想文化罪”論處，判監兩年九個月，按律減刑一半，隻需執行刑期一年三個月。刑罰甚輕，主要是因為袁父向陳立夫求情，夏衍、蔡叔厚等人亦托人解救，甚至日本駐滬領事館亦起了作用。
袁殊先在第一監獄病號室獲“優待”兩天，隨即轉送湖北省反省院。該院院長為黃寶石，是中統、國民黨上海市社會局局長、特務頭子吳醒亞湖北幫“參謀長”。袁殊曾受王子春之命，以袁曉嵐子、湖北同鄉的身份，打入中統吳醒亞派。此次由軍統轉交中統，陳立夫的作用尤大，袁殊在獄中待遇自然較優。
董純才回憶到武漢反省院探望袁殊：“他身穿長袍，養得胖胖的一點也不像囚犯。”袁父病故後，袁殊更出獄處理後事，把袁曉嵐欞柩送返湖北蘄春，方才回到反省院。被關押期間，袁殊以讀書、寫字、打球，時而寫新聞學短稿度日。袁殊更受黃寶石之命，重操故業，在反省院辦《誠化》半月刊，刊行兩期，即不了了之。
1936年5月，袁殊刑滿出獄，黃寶石贈他200元錢，以及一張直通南京的船票，要求他晉見陳立夫。袁殊以路費已足，並未接受贈款。但袁殊知道，如果一被釋放就去見陳立夫，就意味著首先投奔CC係，也就意味著完全背叛了革命、背叛了共產黨。他知道，戴笠和王新衡也不會放棄要他去加人軍統的希望。然而袁殊不想改變當初參加革命參加黨的初衷。因此，他被釋放後首先想做的事就是希望盡快找到黨，希望能夠繼續為黨工作。
袁殊回到上海，黨內同誌自然會對他保持警惕。他隻好去找雖不是黨員但同黨始終保持密切聯係的孫師毅。不料孫師毅見到袁殊後劈頭一句便問：“你回到上海是幫助特務抓人的呢？還是來看望老朋友的呢？”這使袁殊十分尷尬。他趕忙誠懇解釋：“我回上海就是要向老朋友請示今後行止的。”孫師毅是個大好人，第二天就將袁殊的情況告訴了剛從陝北來上海不久的馮雪峰。馮雪峰此次來上海的主要使命，是開展抗日民族統一戰線工作。他雖然已經從孫師毅的介紹中知道了袁殊被捕後的一些不好表現，但出於團結一切可以團結的力量考慮，他還是答應了和袁殊見麵。
見麵時，袁殊向馮雪峰彙報了近年來的情況。但馮雪峰並未明確表示什麼或做任何承諾，隻是建議袁殊先找一個教書的職業避一避風頭再說。在沒有對袁殊進一步審查並得出相應結論之前，馮雪峰也隻能這麼做。袁殊卻深感失望，他立即向馮雪峰表示：既然如此，他想再去日本學習一回。袁殊還自我解嘲說，革命不成，先弄個文學博士回來。馮雪峰表示“這樣也好”，隨後還給袁殊送去50元路費。
袁殊動身之前，又去日本駐上海領事館聯係。鑒於袁殊曾是日方的情報人員，釋放後又主動找上門來，日本領事館表示熱烈歡迎，立即為袁殊辦妥了一切赴日手續，並送給200元路費，同時讓袁到東京後再去找正在外務省供職的岩井英一聯係。
袁殊到日本後即去找岩井。岩井果然對袁殊給予了特別的關照。不僅為袁殊介紹學校，介紹一批學界與政界朋友，而且每月向袁提供150元的生活用費。岩井所以如此特別關照袁殊，當然不是所謂的朋友之誼，而完全是一種政治投資。袁殊自然也是心中有數的，但他樂於利用這樣的“特別關照”。袁殊於是在妻子馬景星陪同下前往日本早稻田大學曆史係做清水泰次教授的研究生，有時也向避難在那裏的郭沫若學甲骨文。
1937年4月，袁殊第二次在日本“留學”還不足一年時間便又返回到上海。這時中日關係已十分緊張。岩井對袁殊說過：“日中關係破裂的大局已定。”言下之意是希望在日中關係“破裂”後袁殊能繼續和日方合作。但袁殊回到上海後，首先去找馮雪峰，向馮彙報了這近一年時間在日本的情況，希望黨對他今後的行止有所指示。鑒於袁殊的情況是如此的特殊而又複雜，馮雪峰一時也不知道如何安排為好。當時地下黨的同誌一般都認為袁殊早已是“轉向”人物，不能輕信，夏衍對此尤其心存芥蒂。馮雪峰隻得讓袁殊先利用舊關係找點事情做再說。
其時，潘漢年奔波於滬寧杭，參與第二次國共合作談判。袁殊不知道中共對其抱怎樣的態度，心裏也很惘然。一個月後，袁殊將一份有關日本各重要城市狀況的機密資料交給了潘漢年，希望借此得到中共的諒解和信任。袁殊帶著試探性的口氣，問潘漢年：“以後的工作該怎麼辦？我現在是一方麵和軍統吳醒亞有聯係，另一方麵和日本駐上海領事館也有聯係的。”從袁殊的口氣中，潘漢年自然清楚他的用意。作為當時國共談判桌上中共的全權代表，潘漢年認為在中日戰爭一觸即發、國共兩黨合作大勢所趨的形勢之下，用好袁殊這樣的情報人員是十分必要的。所以他當即表態歡迎袁殊繼續與中共合作，並指示他：“你可以用抗日的名義繼續和軍統保持聯係，也可以和日本領事館應付。但你要準備承受外界對你的誤解和抨擊。”