這樣一個問題，這在用馬和船隻作為交通工具的時代裏，是一個非常實際的問題。邊遠省份遠離首都達3000英裏，因此，不足為奇，西班牙於756年、摩洛哥於788年、突尼斯於800年，首先擺脫了帝國的統治。
同羅馬帝國的情況一樣，阿拉伯帝國也存在著開支問題；就當時的經濟和技術而言，帝國的開支顯然過大，無力補償。巴格達朝廷的極度奢侈和日益龐大的官僚機構的浩大開支，超過了技術的發展，結果，財政危機迫使哈裏發委派各省總督為當地稅務的包收者。這些總督用他們征來的稅收，支付地方軍隊和官員的薪俸，並向國庫交納指定的款額。這一情況使總督兼包稅人不久便和軍事將領達成協議，兩者一起成為各省的實際統治者。到9世紀中葉，哈裏發已失去對軍事和行政的控製，並逐漸被土耳其雇用軍隨意廢立。13世紀，穆林斯曆史學家邦德裏，清楚地描述了由中央集權製帝國向封建自治國家過渡的情況：
曆來的習慣，都是從全國征收賦稅，以供養軍隊，在此之前誰也沒有采邑。尼紮姆穆爾克［11世紀的官員]已明白到，由於國家動蕩不安，再要征收稅款已不可能；生產也因社會混亂而毫無保障。因此，他將土地分封給士兵，指定產量和稅收。這樣，他們開發土地的興起大大增加了，很快便恢複了繁榮的景象。
毫無例外，帝國的衰弱導致了蠻族的入侵。正如羅馬帝國遭到來自萊茵河和多瑙河對岸的侵略一樣，哈裏發統治這時也遭受了來自北部、南部和東部的進攻。十字軍由北入侵占領了西班牙。西西裏和敘亞利，而這三個地區穆斯林的不和卻便利於這一入侵。在西西裏島；1040年，當地王朝滅亡後爆發了內戰，這對諾曼人從意人利南部入侵該島十分有利。到1091年時，整個西西裏島被征服，混雜的基督教-穆斯林居民淪於諾曼底國王的統治。
同樣，在西班牙，伍麥葉王朝於1031年被推翻，整個國家分裂成許多小國，由各“黨派”即代表各民族的宗派統治。這些民族包括阿拉伯人、柏柏爾人、當地前穆斯林伊比利亞人和“斯拉夫人”。斯拉夫人，即歐洲奴隸，主要來自中歐和東歐。他們同突厥人受阿拔斯王朝雇傭一樣，被伍麥葉王朝雇來充當雇傭軍，並象突厥人那樣，最終統治了他們的主人。穆斯林西班牙的分裂，使北部基督教國家能向南擴張。到1085年，他們占領了重要城市托萊多。到13世紀末，穆斯林隻剩下半島最南端的格拉納達。
西西裏島和西班牙失陷於基督教國家是長期的，但敘利亞的情況則不同。這裏，幾個穆斯林國家自相殘殺的戰爭，使十字軍從1096年起迅速向前推進，抵達敘利亞海岸，進入巴勒斯坦，建立了四個國家：埃澤薩伯國（1078年）、安條克公國（1098年）、耶路撒冷王國（1O99年）和特裏波利伯國（1109年）。這些國家都以西方封建方式建成，然而，它們缺乏根基，從未同化穆斯林阿拉伯臣民。它們的存在依靠歐洲零星到達的援兵的支持。而且，這些國家都位於沿海地區，很容易遭受內地組織的抵抗運動的襲擊。但隻要周圍的穆斯林世界處於分裂狀態，這些國家就能生存下去。薩拉赫丁，即西方人所稱的薩拉丁，結束了這種分裂狀態。他統一了穆斯林敘利亞和埃及，包圍了十字軍公國，於1187年開始反攻。他在1193年逝世以前已收複了耶路撒冷，把西方人從所有地區驅除出去，隻剩下一條狹長的沿海地區。隨後一個世紀中，這一地區也被占領，穆斯林的再征服宣告完成。