我們三個人以及其他一塊兒從事田野工作的同仁都認為，近代考古學雖然應該接受不少的過去的固有傳統，但有一點我們是應該革新的。這一點就是我們不能也不應該把我們研究的對象，當做古玩或古董看待。我們共同的認識是：埋藏在地下的古物都是共有的財產；它們在文化上和學術上的意義及價值最大；沒有任何私人可以負荷保管它們的責任，所以一切都應該歸公家保管。”
１９２９年３月，春回大地，在李濟的主持下殷墟第二次發掘正式開始。工作人員除董作賓和董光忠之外，還有裴文中、王慶昌、王湘、張蔚然等。
因有第一次的經驗，開始在地點的選擇等方麵比較順利，發掘地點分村北、村中、村南三處。這次發掘采用了近代考古學的一些方法，如對小屯殷墟遺址進行全麵的測繪，以標準量化的探溝代替過去隨意挖坑的辦法，同時還注意遺址地層與遺跡的觀察與記錄。
發掘從３月７日開始，至５月１０日收工，時間為六十五天。開挖長三米，寬一點五米的長方形標準探溝四十三個，各溝坑均以科學的方式命名，村南分別以A、B、C等為坑名，村北以T、U、V為坑名，村中則是以縱、橫、斜、連為坑名，以便於後來的研究。這次發掘的成果為字甲五十五片，字骨六百八十五片，兩者總計七百四十片，還有大宗陶器、獸骨、石器、銅器等遺物。
第二次發掘開始著手測量以小屯為中心的殷墟遺址的地形地貌，由專業測量員張蔚然負責測繪。經過緊張的工作，到第三次殷墟發掘時繪製完成了第一張安陽小屯殷墟測繪圖。這對於了解整個小屯及其附近地區的地形地貌有很大的幫助，有利於殷墟發掘的進一步開展。這個測繪圖直到上個世紀五六十年代，還被學術界廣泛使用。另外，從這次發掘起，開始對過去不為人們重視的陶器進行了係統的收集記錄。
然而，由於中國田野考古還處在開始和幼稚階段，缺乏經驗的積累和全麵的科學考古知識，因此影響到了對複雜遺址和遺物的正確判斷。第一次發掘所得出的“殷墟漂沒說”，這次發掘不但沒有得到糾正，反而給予了進一步“證實”。李濟等人也都認為小屯地下的文化層是由洪水衝積成的，殷商人之所以放棄這個都城，也是因為洪水泛濫的緣故。他們還把建築基址中的礎石當成是洪水從山上衝下來的石頭，把建築基址中奠基時殺殉的屍骨當成是被淹死的人。還認為殷商時期，甲骨本來是被裝訂成冊保存在固定地方的，後被洪水衝散，才形成了發掘時所見的分散甲骨層等。
正當第二次發掘順利進行中，到５月上旬，安陽軍事形勢發生了突然變化，原來的駐軍一夜之間不知去向。一時間土匪強盜又猖狂起來，小屯附近白天盜匪公然打劫，影響到發掘組的安全。後來新開來的駐軍，占據了洹上村考古組的駐地，多方交涉無果。天氣也漸熱，無法再繼續田野工作，隻好停止了這次發掘。
此時曆史語言研究所已準備遷址於北平，為了方便研究，在第二次發掘結束之後，李濟和董作賓商量決定，把部分出土文物登記造冊，裝箱包好後運往北平。但此舉引來不少麻煩，迫使發掘工作一度中斷。