1932年春天，梁大均到蘭州，去隴南搞兵運工作。在極其困難的條件下，活動在甘、寧一帶。
1933年，梁大均和陝西特委負責人吳鴻賓又回到寧夏。回寧後吳以省政府秘書為掩護，梁大均回到葉升堡，在學校進行工作，繼而向農村深入，發展革命力量，打好建黨基礎。因為當地人都知道他是半公開的共產黨，所以他和群眾關係好，把一批進步分子團結在周圍，與李光成、張琪等人在中學一起鬧學潮，搞暴動。李光成是望洪小學校長，這樣，梁大均便在望洪小學當了教員。
1935年，梁大均在銀川市學堂巷小學(學堂巷小學校長包壽昌，葉升堡人）任教時，指導學生辦牆報，借阿比西尼亞(埃塞俄比亞)抗擊意大利為題，出了個刊物《比比看》，內容是講一個正義弱國敢於抗擊非正義的強國，進一步提出我們中國這麼大的國家，為什麼不敢抗擊日本侵略者？對學生鼓舞教育很大。除了做學生工作之外，還向學校的一些青年教師灌輸愛國思想，宣傳抗日。同時，也注意和校外取得聯係，工作甚至做到了國民黨內部。馬鴻逵的屯墾辦事處主任邵惠群（浙江奉化人，共產黨員)和梁大均接觸上後，組織了一個“新文字學會”，作為黨在銀川市團結教育知識分子的一種途徑。以後又認識了高級法院的範推事(法官)，此人思想進步，傾向中國共產黨，對梁大均也很有幫助。
1936年，王幼平(化名山東老李)在學堂巷小學找到了梁大均，說紅軍準備打寧夏，叫他搜集情況，組織力量，迎接解放。馬鴻逵害怕紅軍，也害怕知識分子，把學校校長、教師集中起來，在銀川市辦了個“暑期訓練團”，梁大均也參加了進去，在教師中團結更多人，發展革命力量。一次，教育廳廳長童躍華接見一批教師，梁大均也參加，對梁大均發表的議論，童躍華很賞識。1936年，由於童躍華的提名，梁大均又當上了李俊小學校長。沒過多久，有人用匿名信報告他是共產黨，說他組織力量，配合紅軍進攻寧夏。馬鴻逵便下令抓他，當他被抓到銀川後，他設法逃到“尕老頭”馬騰蛟的保安司令部。馬騰蛟1938年出兵綏西，參加抗日，對中國共產黨有一定認識，是一位仗義愛國的老軍官。
1937年冬，李仰南任寧夏工委(地下省委)書記。在銀川實驗小學，梁大均向李仰南介紹了寧夏地區的情況，把宋澄小學工作的馬雲澤、易寶珊介紹給李仰南，並表示自己想到陝北去。李仰南同意後，便由何廣寬帶梁大均到定邊，經三邊特委白如冰同誌審查後，介紹去抗大學習。
1938年，梁大均在抗大改名達君，後來才改名大均。在抗大學習了兩三個月，就去瓦窯堡，對付國民黨縣政府的活動。這年八月的一天，中央聯絡部長王若飛找梁大均談話說：傅作義的部隊在綏西是傾向抗日的，現在傅作義派他的政治部主任於純哉到延安來要一批抗日大學生，你帶十餘人以公開的共產黨員身份，到傅部做抗日統戰工作。傅作義當時任第八戰區副司令長官。梁大均開始在遊擊軍軍部任民運部長，還沒上任，傅作義找梁說，馬鴻逵有電報來，說你是共產黨。後來，經過商談，改派梁大均往大青山部隊當傅的特派員。在大青山我黨特委白如冰、遊擊隊司令姚喆的指導下，梁大均集中精力，做好十四團團長王德寶的工作，策動王團長解放了旗下營，並破壞了平綏鐵路，阻止日軍西進。
1939年冬，梁大均又回到延安，任陝北公學學生會經濟部部長和陝北公學經濟建設科科長。以後，又籌辦民族學院，當了一年總務處長。