虎丘由帝王陵寢成為佛教名山和遊覽勝地始於六朝。東晉時，司徒王及其弟司空王瑉各自在山中營建別墅，鹹和二年（327年），雙雙舍宅為虎丘山寺，仍分兩處，稱東寺、西寺，劉宋高僧竺道生從北方來此講經弘法，留下了“生公說法，頑石點頭”的佳話和生公講台、千人坐、點頭石、白蓮池等膾炙人口的古跡。六朝時的虎丘即已建有佛塔，陳代張正見、江整二人詠虎丘詩有“遠看銀台竦，洞塔耀山莊。”和“寶塔據高壟，經台鎮嶺頭。”之句，可為佐證。這是虎丘見於記載的最早的塔，廢毀已久。
結束南北朝分裂局麵，使中國複歸一統的隋文帝楊堅，篤信佛教，於仁壽年間（601年—604年）下詔各州郡建造舍利塔，並由“有司造樣送往當州”，也就是附發了塔的樣式，以便統一規製。於是，虎丘曆史上便有了第二座塔，位於山頂東晉王琴台故址，不過，據古建築專家劉敦楨考證，它隻是一座方形的木塔，早已無有，決非保存至今的以磚結構為主的八角形塔。這一結論已是毋庸置疑的了。
到了唐代，為避唐高祖李淵祖父李虎名諱，虎丘一度改名武丘，寺名亦易為武丘報恩寺，仍分東西兩寺。顏真卿詩有“不到東西寺，於今五十春。”之句。那時虎丘離城雖近，但無大路和河流可通，遊人需從田間阡陌穿行，如遇雨天還要涉水方能抵達，交通極為不便。寶曆元年（825年），五十四歲的白居易出任蘇州刺吏。這位熱愛蘇州風物、對虎丘情有獨鍾的大詩人有感於此，便領導蘇州百姓自閶門至虎丘開挖河道與運河貫通，沿河修築塘路直達山前，又栽種桃李數千株，加以美化，並繞山開渠引水，形成環山溪。事後，詩人寫有一首五律《武丘寺路》：“自開山寺路，水陸往來頻，銀勒牽驕馬，花船載麗人芰荷生欲遍，桃李種仍新，好住河堤上，長留一道春。”虎丘山下溪流映帶，碧波潺緩，遠遠望去恍若海上仙島；從此水陸稱便，遊人絡繹不絕。為紀念白居易功績，後人稱塘路為白公堤，即今山塘街，河為山塘河，皆長七裏，號稱“七裏山塘”。此後一千一白多年間，山塘成為連結閶門與虎丘的唯一紐帶，是從蘇州城去虎丘的必經之路；既是閶門商市的延伸，又是虎丘風景名勝的前奏，曆史上兩者有著不可分割的關係，所以明清兩代虎丘的多部山誌無不將山塘包括在內，一並加以記述。
然而，當初白居易開河築堤不到二十年，唐武宗李炎在位時，崇道辟佛，發動了一次大規模的滅佛運動，於會昌五年（845年）詔令沒收寺院土地財產，毀壞佛寺佛像，強迫僧尼還俗，史稱“會昌滅佛”。遠離長安的蘇州也未能幸免於難，建寺已五百餘年的虎丘東西二寺當即被拆得片瓦無存。但過了不久，佛教又得到恢複。重建的虎丘山寺合二寺為一寺，並從山下遷移到山上，逐步形成保留至今的依山而築的格局。山下則另建東山廟和西山廟，以紀念舍宅為寺的王、王瑉兄弟。五代時期，中原分爭，江南一隅比較太平。當時蘇州是吳越國錢氏政權統治下，僅次於都城杭州的重鎮，國主錢第四子錢元、錢文奉父子治理蘇州數十年，大事修建佛寺、構築圓林。據記載錢元“每遊虎丘山寺，前路引望已欣動顏色。比至，必規畫修繕。”虎丘的寺院和勝跡在這一時期也得到了維修和發展。特別值得一提的是，根據現代修塔施工中，發現文物的文字紀年和塔的形製判斷，虎丘現有的佛塔，就是五代最後一年後周顯德六年（959年），亦即吳越國王錢弘在位的第十三年，至北宋建隆二年（961年）的建築。建成後十七年，吳越國“納土歸宋”，蘇州正式歸入宋王朝的版圖。