剛開始，《青年之友》的稿源非常有限，僅僅是補習班的學生以及他們的朋友，發行量不到1000份。為擴大影響，壯大力量，1928年，許德良等發起成立“青年之友”社，並在雜誌上刊登啟事，招募人員。沙千裏看到啟事後，便參加了“青年之友”社，並積極參加社裏的各種活動，逐步成了社裏的骨幹，後被推舉為“青年之友”社的負責人。在沙千裏的領導下，“青年之友”社人員不斷增多，力量不斷壯大，還創辦了圖書館，不定期舉辦讀書會，受到了進步青年的青睞。但同時大家也覺得“青年之友”社的會刊《青年之友》內容貧乏，形式呆板，不能滿足青年的需求。於是，大家一致推選沙千裏為雜誌主編，改革雜誌，出版“革新號”。沙千裏不斷努力，對雜誌從內容到形式都進行了改革，革新後的《青年之友》有很大進步，內容充實，形式活潑，切中時弊，還能積極引導青年討論大家關心的國際問題、社會問題、婚姻問題。後來又增出文藝副刊（由李伯龍任編輯），宣傳普羅文學，深得讀者的喜歡。周刊發行量逐漸增加，最高達到5000份，全國都有發行，讀者遍布全國，甚至南洋各地，僅次於鄒韜奮主編的《生活》周刊。
《青年之友》在青年中不斷擴大影響，因而引起了國民黨的恐慌，國民黨政府發出了禁止銷售《青年之友》的密令，並要查拿負責人，其罪名是宣揚普羅文學，鼓吹階級鬥爭，違反出版法。沙千裏與許德良、章乃器、李伯龍商量鬥爭對策，決定不集中辦公，組織稿件出版最後4期，用更鮮明的觀點，揭露和批判當局的倒行逆施。1930年，在反動派的高壓政策和特務的不斷破壞下，《青年之友》不得不停刊。
《青年之友》雖然被禁，但是他們的鬥爭並沒有停止，青年之友社還存在，核心骨幹還定期開會，研究鬥爭策略。沙千裏、李伯龍、許德良、任先、沈仲君、徐賡敖、楊修範、馬燮慶、徐以禮等骨幹經過多次研究，決定以《青年之友》社原有的社友為基礎成立“螞蟻社”。“螞蟻社”的宗旨是聯絡感情，增進友誼，從事文化運動。目標是以文化運動為手段，使新社會早日實現。用團體的力量，嚴峻的紀律，艱苦的奮鬥向著改造社會，實現社會主義的目標前進。為了爭取合法的地位，在成立過程中，沙千裏爭取了一個國民黨黨員，這個黨員不止一次向沙千裏借錢，沙千裏總是慷慨答應，從不拒絕，雖然知道借去後不會有歸還。沙千裏通過這個國民黨員的關係，向國民黨政府教育部申請立案，並被批準為全國職業界青年文化團體，領取了國民黨政府頒發的證書。
他們以螞蟻自詡，認為螞蟻雖是小動物，力量小，但是為了共同利益，能夠團結一致，不惜犧牲自己，與敵人進行拚死的鬥爭。沙千裏在社員大會上講話時，也常常以“螞蟻精神”激勵大家，號召大家“做活螞蟻”，“要像螞蟻一樣團結一致，奮鬥不息”。蟻社不斷發展，成為抗日救亡運動中著名群眾團體之一。
為了鼓舞鬥誌，蟻社編有《蟻社社歌》和《蟻社之路》兩首歌曲。《蟻社社歌》由沙千裏作詞，黃自作曲。歌詞是：“螞蟻是愛群互助的小蟲，螞蟻是有集團組織的大眾。我們都是螞蟻，不是吃書無用的蠹蟲。在光明與黑暗決鬥的戰壕中，我們要前衝，我們要前衝！前衝，前衝，前衝，前衝！我們都要前衝！用螞蟻的精神，來播種新文化的種，使新世界的光明，更加燦爛鮮紅。起來，起來，螞蟻們，大家起來，螞蟻們，向前去做自由平等，自由平等的先鋒！”
蟻社的最高權力機關是社友大會，每年舉行一次。執行委員會由全體社友選舉，由執行委員9人組成，沙千裏擔任過曆屆的執行委員。執行委員會下設總務、社友和文化三個部，分別管理各項具體活動。沙千裏是社友部負責人，負責管理與社友有關事宜，團結社友中的積極分子，起核心作用。除此而外，沙千裏還曾負責過文化部的讀書會與時事研究會。
1934年初，沙千裏參加了中國共產黨的外圍組織“蘇聯之友”社，並與許德良、李伯龍、楊修範、章乃器、葛師良等在蟻社裏麵組織“蘇聯之友”小組。
除了參加社團政治活動外，沙千裏的本職工作是律師。在他審理的案件中，他秉公辦理，特別是涉及到一些受害的貧苦百姓，他盡力給予法律援助，在律師中有較好的威望和聲譽。
創辦刊物 宣傳抗日
1931年，日本發動“九?一八”事變，由於國民黨執行不抵抗政策，日本帝國主義侵占了中國東北，中華民族與日本帝國主義的矛盾上升為主要矛盾。1935年，日本進一步向華北進軍，妄圖一舉吞沒中國，中華民族處於生死存亡的關鍵時刻。1935年8月1日，中國共產黨駐共產國際代表團根據國內外政治形勢的變化，以及共產國際第七次代表大會關於建立世界反法西斯統一戰線的政策，以中共中央和中華蘇維埃中央政府的名義發表《為抗日救國告全體同胞書》，史稱“八一宣言”。宣言指出：“近年來，我國家、我民族，已處在千鈞一發的生死關頭。抗日則生，不抗日則死，抗日救國，已成為每個同胞的神聖天職……當今我亡國滅種大禍迫在眉睫之時，共產黨和蘇維埃政府再一次向全體同胞呼籲：無論各黨派間在過去和現在有任何政見和利害的不同，無論各界同胞間有任何意見上或利益上的差異，無論各軍隊間過去和現在有任何敵對行動，大家都應當有‘兄弟鬩牆外禦其侮’的真誠覺悟，首先大家都應當停止內戰，以便集中一切國力（人力，物力、財力、武力等）去為抗日救國的神聖事業而奮鬥。蘇維埃政府和共產黨特再一次鄭重宣言：隻要國民黨軍隊停止進攻蘇區行動，隻要任何部隊實行對日抗戰，不管過去和現在他們與紅軍之間有任何舊仇宿怨，不管他們與紅軍之間在對內問題上有任何分歧，紅軍不僅立刻對之停止敵對行為，而且願意與之親密攜手共同救國。”宣言還提出了抗日救國十大綱領。
沙千裏看到“八一宣言”後，心情非常激動，認為宣言說出了他的心裏話，反映了他的願望和要求。從此，他認識到，隻有中國共產黨才是抗日的中堅力量。
為了宣傳抗日救亡，10月，沙千裏創辦《生活知識》半月刊，為了躲避日本帝國主義和國民黨特務的幹涉，決定效仿鄒韜奮的《生活》周刊，不用職業教育社的名義，而是自成一格獨立組織的辦法。為此，他們不以“螞蟻社”的名義，而以沙千裏、徐步兩人的名義出版《生活知識》。《生活知識》的發刊詞指出：“在‘窮則變，變則通’的前夕，中國廣大的民眾是在熱烈地要求對現實的解釋，所以出現了很多雜誌。我們相信現有的雜誌也還未能達到其應有的數量；何況有些雜誌因切中現實而不免於停刊，更何況有些雜誌根本無視現實或甚至有意曲解現實而為曆史進化的障礙，於是我們的刊物便應客觀情勢的要求而出現了……我們雜誌的目標為我們的刊物名稱所示，是生活知識。但不是生活於任何時間及任何地方的自然人所應有的知識，而是生活於國土喪失，農村破產，‘天災’因人禍加劇的現代中國的社會所特應有的知識……我們希望我們的刊物能給讀者以這樣的知識，我們更希望能夠借助這個刊物讓讀者攝取得這樣的知識。”