完成這些外交準備之後，俄國在1877年4月24日，以土耳其政府拒絕采用有利於帝國境內基督教臣民的改革綱領為由，對土耳其宣戰。戰爭進展神速，俄軍節節勝利。6月23日俄軍渡過多瑙河，7月19日占領巴爾幹山脈的息普卡隘口，7月27日逼近亞得裏亞堡。這時英國授意土耳其大使勸告素丹“邀請”駐泊貝西加灣的英國艦隊駛人君士坦丁堡。但這一消息尚未傳到土耳其首都，俄軍因在普利佛那要塞的失利，已經使戰爭的腳步緩慢下來。至 12 月，當戰事變得再次有利於俄軍時，土耳其開始呼籲英國調停。沙皇拒絕別國幹涉，他堅持與土耳其單方麵商談議和條件。1878年1月31日，在俄軍前鋒僅距君士坦丁堡十多英裏的壓力下，土耳其被迫與俄軍議和。3月3日雙方在聖斯特法諾簽訂和約。
依據和約，塞爾維亞、門的內哥羅、羅馬尼亞脫離土耳其完全獨立，塞、門兩國領士略有擴展；波黑兩省實施改革；俄國獲得比薩拉比業、卡爾斯、阿爾達漢、巴統及巴亞澤特，並獲得了對一個擴大了的保加利亞的控製權聖斯特法諾和約大大擴展了俄國在巴爾幹的勢力，一個大保加利亞的出現也堵塞了奧匈向巴爾幹半島擴張的道路。因此奧英兩國蠍力譴責這個和約，並提出在柏林召開國際會議，重新審閱和約的全部條文。稗斯麥聲稱在東方問題上願作一名“誠實的 m客”，現在他一變過去對俄國的縱容支持，成了一個和事佬，力圖利用東方問題，保持列強之間的磨擦，以鞏固和擴大德國在中歐的地位和利益。
1878年6月13日，有關東方間題的柏林會議正式開幕。經過英、俄、奧、法、意、德和土耳其與會代表的激烈爭議，在稗斯麥的平衡下，最後締結了《柏林協定》。協定大大縮小了受俄國控製的保加利亞的版圖，使之處於一個享有自治權、但仍向土耳其納貢的侯國地位。原屬大保加利亞的馬其頓及東魯美利亞與保加利亞分離，仍劃歸土耳其治下。奧匈獲得占領波斯尼亞和黑塞哥維那的權利。英國取得地中海的戰略要地塞浦路斯島。協定使英奧達到了預期的目的，但卻使俄國出讓了戰時所得的部分勝利果實。沙皇將此歸罪於伸斯麥，抱怨德國犧牲了俄國的利益。所以，柏林會議後三帝同盟已名存實亡，德俄、俄奧關係已發生深刻變化。
柏林協定簽訂 18 個月以後，稗斯麥的外交戰略發生了前所未有的新變化。這一變化決定了今後 30 年的外交格局。為了擺脫外交上的孤立，律斯麥雖未放棄恢複暖昧的三帝同盟的努力，但德俄關係的惡化已經開始動搖他幾十年來的外交構想。莫斯科報刊對他連篇累犢的攻擊以及德俄之間圍繞農產品進出口的經濟戰，都使他深感不安。俄國既不可靠，德國就應當尚英國和奧匈靠攏，尤其要加強中歐的團結，這樣才有助於應付來自東西兩麵的威脅。1878年8月，埠斯麥決定利用一年一度對加施泰因的訪問，同奧國人進行一次關於俄國問題的會談。此外，有消息報道，說他的老朋友奧匈外交大臣安德拉西不久將辭職，因此要爭取主動，不應再喪失時機。8月27日，抵達加施泰因的裨斯麥立即同安德拉西舉行會晤，雙方都希望通過突出德奧友誼來促使俄國改變態度。對於締結一項反俄同盟，奧皇欣然表示同意，但德皇威廉一世的態度卻成了律斯麥的最大難題。威廉是沙皇亞曆山大二世的舅父，兩國傳統的友誼，以及漫長的共同邊界，都使得聯奧反俄的政策既無必要，又十分危險。82歲的老皇固執己見，毫不讓步。
就在9月初，老皇還同他的外甥在俄屬波蘭邊境的亞曆山大羅伏舉行了友好的會見。舅甥倆含著悔恨與和解的眼淚彼此衷心問候，使威廉深為感動。現在，他剛一回來，就讓他接受一個反俄性質的盟約，這對於他無論在良知、性格和榮譽方麵都是難以接受的，所以老皇毫不妥協地說：“不！”接下來便出現了皇帝與宰相之間慣常的爭吵，雖然彼此已不像早年那樣暴跳如雷，但雙方都在訴苦他們都不願讓步，鬥爭持續了4個星期。稗斯麥得到了皇太子、毛奇和普魯士內閣的支持。最後，當威廉擔心他不僅會失去自己的宰相，而且還會引起內閣全體辭職的後果時，他被迫屈服了。10月5日，當皇帝違心地同意接受同盟條約時，他仍然在簽字旁寫道：“使我簽字的人將來要對此協定負責”稗斯麥已習慣於皇帝這種表達怨忿的方式，他知道他又一次左右了自己的君主1879年10月7日，德奧同盟條約由安德拉西和德國大使賴斯在維也納簽署正式生效。依照條約規定：締約一方若遭受俄國進攻，另一方應以“全部軍事力量”給予援助；若一方與俄國之外的另一國交戰，另一方則保持善意中立，如交戰國得到俄國的支持，上述規定則自行生效。條約的內容是秘密的，有效期初定為 5 年，實際上以後不斷續訂，直到 39 年後德意誌帝國與哈布斯堡帝國共同滅亡。這個條約成為以後德國外交政策的基石，也是歐洲國際關係的樞紐。未來的三國同盟不是替代它，而隻是擴充它。
德奧同盟關係形成後，伸斯麥開始向英國靠攏，他想把英國拉進德奧同盟，替他分擔助奧抗俄的責任。英國雖對德奧接近感到興奮，但卻不願分擔在大陸上對俄作戰的責任。不久，英國保守黨內閣垮台，英德之間的結盟談判宣告中斷。由於俄國的主要對手是英國而不是德國，英德之間的接觸已引起沙皇的警覺。為了在東方問題上牽製英國，並對奧匈施加壓力使之追隨俄國，沙皇試圖恢複與德國的正常關係。
180年1月，親德的薩布羅夫出任駐德大使，他正式向稗斯麥提出恢複三帝同盟的建議。俄國的新姿態使像斯麥徹底放棄了對英國進一步的試探。他深信，經過前一段時間的外交努力，彼此都願作出讓步，隻要三國取得妥協，確保各方多年的合作還是有希望的。但是他過低估計了各君主專製國的差異和弱點，以致談判拖延了一年半時間，才使俄奧在東方利益上達成妥協。
181年6月18日，新的三帝同盟條約在柏林簽訂。這時俄國的新沙皇亞曆山大三世剛登上皇位3個月，而奧匈的外交大臣也換上了新任命的海默爾。新的三帝同盟與 1873 年的三帝同盟有所不同，它不是一個空泛的新神聖同盟，而是有具體條約內容限製的中立協定。當締約國之一和第四國（土耳其除外）發生戰爭時，另外兩個締約國應保持中立；締約國承認禁止各國軍艦通過海峽的原則，並要求土耳其遵守這一原則；俄國接受奧匈合並波黑兩省的權利，奧匈不再反對保加利亞的合並與擴大。三帝同盟協定使德國暫時達到了孤立法國的目的，並協調了俄奧關係，穩定了東鄰的局勢，也促成俄英之間的對立。這是像斯麥外交的一個意外勝利。但是同盟的基礎是脆弱的，俄奧在巴爾幹的矛盾不可能從根本上消除，沙皇也不會長久地容忍德國在中歐霸權的確立。在國際範圍內各種不確定因素的衝擊下，三帝同盟是一個不鞏固的同盟正當三帝同盟還在談判之際，意大利因與法國爭奪突尼斯的失敗，也開始向德奧集團靠攏。意法之間的矛盾在一定程度上是稗斯麥造成的。在柏林會議期間，英法曾達成一項協議，法國承認埃及為英國勢力範圍，而英國則同意法國占領突尼斯取得補償。傅斯麥支持這個協議，他希望把法國的興趣部分地從阿爾薩斯—洛林轉移到非洲去。但是法國占領突尼斯就同意大利發生了衝突。突尼斯與意大利的西西裏島隔海相望，互為椅角，具有重要的戰略和經濟地位。早在180年就有1萬名意大利的移民居住在突尼斯。法國占領突尼斯後，迫使意大利調整對外政策，向德奧集團發出結盟的呼籲。從181 年秋天起，意大利就積極同兩國進行秘密談判。這種努力於182年5月20日導致了德、奧、意三國同盟的建立。這個同盟的目標直指法俄兩國，一旦與之發生戰爭，三國屆時將相互援助。