查士丁尼皇帝順利地拿下北非後，目光開始轉向了下一個戰略目標——意大利的東哥特王國。
沒有羅馬城的羅馬帝國總是名不副實，其實從傳統意義上說，意大利才應該是帝國的心髒。
意大利的哥特王國當初是東羅馬齊諾皇帝授權提奧多裏克打下來的。提奧多裏克跟東羅馬一直保持著很好的關係，他的女兒是汪達爾國王的王妃，他還是法蘭克王克洛維的妹夫和西班牙西哥特人的攝政王。提奧多裏克大帝在查士丁尼即位前一年（526年）死去。
提奧多裏克死時已是72歲高齡，活過了他的兒子，因此隻能由他10歲的孫子繼位。國王年幼，攝政王是太後，即提奧多裏克的兒媳婦阿瑪拉鬆莎。小國王在位8年夭折，太後為了能繼續垂簾聽政，她挑選了一個好控製的傀儡——年長的王叔色厄德塔斯來當國王。色厄德塔斯是提奧多裏克的侄子，去世小國王的表叔。
太後以為新國王個性溫和，年紀又老，好控製，誰知看走了眼，老國王上台以後立即發動宮廷政變，囚禁了阿瑪拉鬆莎，不久將她淹死。但是在政變之前，阿瑪拉鬆莎曾以屬國的身份向查士丁尼求援，請求幫助調解宮廷紛爭，而且許諾要把整個國家獻給羅馬。現在她一死，查士丁尼大怒，拒絕承認新王，並名正言順地派遣大軍進行討伐。
535年，羅馬皇帝派遣大軍分南北兩路西征。貝利撒留指揮南路，從海上占領西西裏，然後登陸意大利半島，從南向北進攻。北路軍由達爾馬提亞總督門德斯統率，從連接希臘巴爾幹半島和意大利半島的達爾馬提亞地區出發，從今的裏雅斯特地區打進意大利半島北部，南北對進。
達爾馬提亞總督門德斯3年前曾經配合貝利撒留平息尼卡暴亂。可是查士丁尼這次給予貝利撒留的兵力比在北非更加吝嗇：由於要分兵兩路和當時帝國中心部分正流行霍亂，兵源枯竭，貝利撒留用來征服意大利的僅僅7500人，北路軍僅4000人。
535年秋天，貝利撒留渡海突襲西西裏島，沒有遇重大抵抗就橫掃了整個島嶼，受到當地居民歡迎。在西西裏非常有意思的一件事是強攻巴勒莫城，貝利撒留想出一個很絕的招數：他命人把幾條大船連起來，在大船的主桅杆頂上再放小船。大船乘漲潮駛進港內，士兵爬到半空中的小船上，居高臨下對城牆守軍放箭。羅馬掌握了“製空權”，巴勒莫守軍不得不投降。
在戰爭的開始階段，由於哥特宮廷對是戰是和沒有定見，色厄德塔斯國王和哥特貴族上層恐懼羅馬的威力，正在與君士坦丁堡談判，而哥特人中的大多數主張迎戰，這樣上下不齊心，因此貝利撒留的進展大體上來講很順利。另外一個原因是哥特人跟汪達爾人一樣，是意大利和北非的異端少數民族統治，他們的臣民絕大多數都是原來的羅馬公民，哥特人和汪達爾人隻是很少的一部分，而羅馬居民信奉基督教正統派。所以羅馬軍隊再征服的時候，當地人民頗有金國統治下北方老百姓踴躍歡迎王師北定中原的勁頭。戰爭初期，由於軍隊紀律鬆弛，為所欲為，給貝利撒留造成了極大的麻煩。
正當貝利撒留準備從西西裏登陸意大利南部的時候，大後方北非出事了：查士丁尼大帝一直實行高稅收政策，特別是對新征服地區的盤剝極為殘酷，因為隻有這樣才能夠支持帝國的軍事開支，和那些索菲亞教堂之類的紀念碑工程的費用。再加上貪官汙吏和驕橫跋扈的駐軍，北非居民在1年之內就怨聲載道，對羅馬離心離德。再加上那時還有摩爾人問題。摩爾人是當地的土著，居住在沙漠和大山裏的遊牧民，經常出來劫掠，無論是汪達爾人，還是羅馬人的統治，包括後來的阿拉伯統治，他們都不臣服，都是麻煩製造者。
當貝利撒留出兵西西裏的時候，北非居民暴動，而羅馬北非總督，太監所羅門派兵平亂（他也是一個很有軍事能力的將領，在北非作戰過程中是貝利撒留的監軍，獨立打過一些比較漂亮的戰鬥，後來在北非總督任上征討摩爾人的一次戰鬥中陣亡），結果羅馬駐軍集體嘩變，北非來得快去得也快，幾個月征服，再幾個月，所羅門總督已無立足之地了，連夜乘坐一條小船渡海來西西裏，向貝利撒留求援。
貝利撒留本來可以一心去征服意大利，不管北非之事。可是太監所羅門曾在北非當貝利撒留監軍的時候，兩人配合默契，結為好友。同時貝利撒留明白這種嘩變的事情，最好是撲滅在搖籃裏，拖延隻能讓事態越來越糟。貝利撒留作出大膽抉擇，僅帶領100名近衛，乘1艘戰船就在北非登陸，並直入迦太基城。嘩變的叛軍沒有料到羅馬的反擊竟來得這麼快，還都在城外召開會議，研究下一步的計劃，由於被貝利撒留威名所鎮和不明對方實力，結果不戰而退。
貝利撒留稍稍停頓，召集2000還忠於羅馬的當地軍隊出城追擊，叛軍有8000人，與貝利撒留戰於蒙布萊薩，貝利撒留乘著強勁的順風，一鼓作氣擊潰叛軍，軍事形勢穩定以後，把北非交給所羅門再行整頓。貝利撒留勝利回到西西裏時，發現自己的軍隊居然又嘩變了，於是不得不再行平亂。等他平定叛亂安定軍心後，才重新參與征服意大利之戰。
貝利撒留征服意大利的路線，跟二次大戰盟軍的路線有些相似，都是先北非，再西西裏，然後在意大利半島腳尖登陸。登陸之後勢如破竹，一直進軍到那不勒斯城，才遭遇到頑強抵抗。開始兩次突擊未能取得成功，後來貝利撒留手下的士兵發現了一處城防破綻，可以從古羅馬引水道的廢墟鑽進城牆，於是貝利撒留派600名輕步兵偷偷鑽進城內，裏應外合一舉破城，圍城戰持續了12天，攻下了那不勒斯，貝利撒留乘勝向永恒的城市——羅馬進軍。
在此期間，羅馬的北路征討軍在達爾馬提亞被打敗，統帥門德斯陣亡，這個勝利鼓勵了哥特宮廷，認為羅馬人不過如此，於是中斷了跟查士丁尼皇帝的和談，決心抵抗。同時，堅定的主戰派，前攝政女王阿瑪拉鬆莎的女婿維提吉斯發動政變殺死了一向怯懦畏敵，被族人鄙視的老國王色厄德塔斯，被公推為新國王。
維提吉斯擔任新哥特國王的時候，戰略形勢已經大大改善：羅馬的北方軍已經被消滅，維提吉斯再遣使表達誠意，向意大利北部和高盧地區的法蘭克人共修和好，要求法蘭克人不要從背後動武，並派兵支援哥特人。這樣，維提吉斯隻需要全力對付南方的貝利撒留軍隊。當貝利撒留的7000軍隊北上進軍羅馬的時候，維提吉斯國王還沒紮穩腳跟，同時與法蘭克人的談判也在進行中，堅守羅馬的信心和準備不足，因此隻留4000軍隊守城，主力向北進一步退縮到首都拉文納。
維提吉斯
羅馬城位於意大利半島中部的西海岸，就好比是意大利半島這一條腿的膝跳反射的那個位置。從5世紀西羅馬帝國的末期起始，羅馬就已經不再是帝國的首都，新首都在意大利北部東海岸的拉文納。哥特人征服意大利之後，繼續把拉文納作為首都，成了意大利新的政治中心。
貝利撒留進軍羅馬沒費丁點力氣，羅馬城居民自動起義歡迎王師，趕跑了哥特守將。但貝利撒留清醒地認識到，哥特軍的實力沒有被削弱，一定會集全國之兵卷土重來。貝利撒留立刻命令全軍加上所有羅馬居民一起動手，日夜修複羅馬已經殘破的城牆。他打算依托羅馬城接受圍攻，這樣可以用地利來彌補兵力不足，在圍城戰中，消滅對手主力。
果然，沒過多久，哥特國王維提吉斯在拉文納完成兵力集結後，向羅馬挺進。
羅馬圍城之戰持續了1年多，這是第一次意大利戰局的關鍵戰役，也是貝利撒留一生中打得最漂亮的一次戰鬥。既然貝利撒留設計用圍城戰消耗敵人，他就根本沒想被動地龜縮起來。他先在羅馬城北托斯卡那地區的佩魯賈、斯波萊托兩個城市留少量兵力堅守，遲滯敵人，又在羅馬城北郊尼祿平原接近地的米爾萬橋留下守軍，要他們扼守橋梁，再消耗掉哥特軍部分實力。可是軍隊素質又一次讓貝利撒留險些遭殃：米爾萬橋的守軍懾於哥特人聲勢浩大，連夜棄陣而逃。
537年3月11日，貝利撒留從城裏帶1000軍隊來增援橋頭守軍，不料迎頭就遭遇到了已經過河的哥特大軍，在這種平原地形上，貝利撒留的1000人被包圍陷入白刃戰。史籍對這次戰鬥的描寫相當浪漫化，把貝利撒留寫得尤如常山趙子龍一般：說他一手長矛一手劍，在敵軍中當者披靡，殺人無數，硬是領著這1000來人在15萬哥特大軍的包圍下殺回羅馬城，等他殺到羅馬城門下，哥特人已經比他先到城門，羅馬城門關閉，貝利撒留發現身後還有羅馬士兵仍在包圍中，沒有到達城下，於是又返身殺回，將哥特軍殺退，帶著殘餘的士兵安全返回城裏。這也許隻是描述一個長阪坡七出七入的翻版傳奇故事而已。
哥特人
哥特軍當夜被圍困於羅馬，加緊建造攻城機械，18天以後進行了第一次總攻。哥特人建造了幾乎跟城牆一樣高的木塔，塔裏有弓箭手，也有準備登城的步兵，用很多牛拉著向城牆靠近。顯然哥特人的主將考慮欠周：木塔有防護作用，牛可沒有防護，結果守軍集中投射火力打倒了拖曳的牛，所有的攻城木塔都停在那裏了。當天，哥特軍又派兵繞到另一處城門，哈德裏安陵墓，想從這裏破城。
羅馬守軍兵力不足，注意力集中在薩拉裏安門的木塔主攻，差點讓哥特人乘虛而入，幸好被少數士兵及時發現，一時找不到趁手的弓箭，隻得拆掉陵墓上石雕的大理石，當滾木擂石向下砸，總算守住城牆。在另一座城門也出現險情，哥特軍已經突破外城牆，貝利撒留聞報帶預備隊趕到，依托內城牆防守，再讓預備隊反衝鋒奪回外城牆封閉突破口，將突入城內的哥特軍一舉殲滅。