楊誌玖進北大史學係時，錢穆、胡適、姚從吾、鄭天挺等大家都在北大任教，傅斯年、顧頡剛也常去講課。由於楊誌玖出生於回族家庭，他想研究回族史，並盡量找些有關的論文和書籍來看，如陳垣的《回回教入中國史略》，金吉堂的《中國回教史研究》、英國傳教士馬歇爾的《清真教》以及張星碙的《中西交通史料彙篇》等。
1937年抗戰爆發後，楊誌玖隨學校遷往雲南，北大與清華、南開合稱西南聯合大學。楊誌玖隨校南遷後，先是在蒙自縣的西南聯大分校學習，1938年暑期畢業後才到達昆明。
1938年楊誌玖從西南聯大畢業後，由於學習成績好，被學校推薦到當時也在昆明的中央研究院曆史語言所，作為院外研究生繼續學習。這時楊誌玖才選了元史作為研究對象。
因為回回人和回教在元朝最興盛，有關材料也多。他首先研究《元史》、摘錄有關回回人的資料，以此作為基礎，輔以其他材料，在將近1年的時間裏，寫出了約25000字的《元代回回考初稿》一文。對於這篇文章，楊誌玖認為：“雖然很粗糙、類似史料長編，但它總算是根據原始材料獨立編排而成的，有些還有自己的看法。更重要的是，通過這一年的寫作實踐，我才逐漸摸索到了點治學的門徑。”
報考北大文科所
1939年5月，西南聯大的北大文科研究所恢複招生。所長由傅斯年兼任，副所長是史學教授鄭天挺。設立語言、文字、文學、哲學、史學等組；其中史學組的導師有陳寅恪、姚從吾、向達、鄭天挺等。
研究所最初是設立在昆明城內雲南大學附近的一條小巷子裏，後來因為敵機老是轟炸城區，就隻好搬遷到了郊區龍泉村一座山下的某古寺廟旁，與中央史語所毗鄰，是臨時搭建的土房。在戰亂中，中央史語所的研究員與北大文科所的教授們形同一家，也因此同步遷徙。當時環境艱苦，書也不多，但學生們能安心學習，怡然自樂。
北大文科所從全國各大學優秀畢業生中招考入學，由政府按月發給助學金。報考者須先交論文，論文通過後再行筆試，筆試之外還有口試。據楊誌玖回憶：
——學校推薦我和同班同學餘文豪（行邁）及清華大學曆史係畢業生汪籛到史語所。傅先生對我們說史語所暫不招研究生，但所裏有一筆中英庚款，你們可從中每月領取30元，自己看書學習。那時30元已可供每月的房租、夥食、買書和零用。中間先生還召集我們座談，詢問我們學習情況並予指導。這一年，我寫了一篇《元代回回初考稿》。1939年秋，北大文科研究所恢複招生，由先生任所長，鄭天挺先生任副所長。先生勸我們報考。先生對這次考試非常重視，親自主持了一些口試，並檢閱每個人的英文試卷。事後他對我說，你的英文程度還可以。新恢複的第一屆研究生招收了10名。
為北大文科研究所的恢複和招生，傅斯年事必躬親，嘔心瀝血，幾近焦頭爛額。1940年8月14日，他給時任駐美大使的胡適去信訴苦：“北大文科研究所去年恢複，向中英庚款會捐了點小款，除教授兼導師外，請了向覺明（向達）作專任導師，鄧廣銘作助教，考了10個學生，皆極用功，有絕佳者，以學生論，前無如此之盛。湯公（用彤）公道盡職，指導有方；莘田（羅常培）大賣氣力，知無不為，皆極可佩。此外如毅生（鄭天挺）、公超、膺中（羅庸）皆熱心。……我自求代理此事，一年中為此進城不少，又由史語所借出一大批書，弄得史語所中頗有怨言：真不值得。”
栗峰書院好讀書
1940年底，昆明再遭轟炸，史語所遷往“一個地圖上找不到的地方”（傅斯年語）——四川南溪李莊。剛恢複1年的北大文科所，因為導師分屬西南聯大和中研院史語所而分成兩撥。首屆研究生陰法魯等留在昆明，馬學良、任繼愈、楊誌玖等則隨同史語所前往四川；第二屆招收20名研究生剛發出錄取通知，一些前往昆明求學，一些則直接到李莊板栗坳完成學業。
李莊是四川長江上遊重要的水路驛站，上敘府（今宜賓市）下南溪兩地都是25公裏。敘府古稱戎州，長江和大渡河、岷江在此交彙，是長江上遊最重要的城市之一。李莊是岷江下遊的重要碼頭，曾為“湖廣填四川”的重要集散地。傅斯年對這個藏在大山深處的“文明之珠”感佩不已，“益驚其一邑中人文之盛，詩人輩出，後先相踵”。
1940年秋，先後遷至李莊的還有同濟大學、中央研究院社會所、中央博物院籌備處和中國營造學社等單位。小小的李莊鎮，除了勉強塞進了先期到達的同濟大學外，中央博物院是唯一在鎮的中央單位。北大史語所選在距離李莊鎮七八裏地的板栗坳，那裏曾有座栗峰書院。李莊至今還有幾位老人記得，當初板栗坳的一戶農舍門前，曾掛過“北大文科研究所辦事處”的牌子。那是一塊柏木的牌子，字是毛筆甲骨文。