甚至在結婚時他也一身戎裝，他，軍人在任何時候都是軍人，婚禮也不例外，在渡婚假時他選擇去羅馬參加墨索裏尼執政十周年紀念儀式。
史陶芬伯格學曆高，聰明能幹，組織能力強，很快就被提拔為高級軍官。但他慢慢地開始對納粹黨徒們的橫行霸道，尤其對希特勒在軍事上的喪心病狂深為不滿和厭惡。一九四三年底，德軍在各個戰場上已開始節節敗退，成千上萬的德國士兵死於他鄉，而希特勒卻更加一意孤行，從這時起史陶芬伯格經常，我必須采取行動拯救我們的國家，隻有一個辦法就是除掉希特勒。
通過朋友的介紹史陶芬伯格結識了軍隊中的反納粹組成員，他們是一批對納粹深惡痛絕的德**人，正在密謀策劃暗殺希特勒的行動。從此史陶芬伯格積極參與了策劃暗殺希特勒的準備活動。他們的打算是，除掉希特勒，接管政府，組成以貝克將軍為的臨時機構並與反法西斯盟國進行談判，簽訂和約。
一九四四年七月一日史陶芬伯格被任命為國內駐防軍總司令部最高長官，從而有了接觸希特勒的機會，從七月初起史陶芬伯格就一直把炸藥放在公文包中，準備見機行事炸死希特勒。在七月中旬他曾三次與希特勒直接接觸，但由於希特勒的左膀右臂戈林和希姆萊不在場，而未下決心動手，因為反納粹組堅持把希特勒及其主戰骨幹一網打盡，七月二十日史陶芬伯格將再次前往“狼窩”，參加討論東部戰役的重新部署問題，這是他幾周中第四次來這裏討論各種方案，他下定決心，這次無論如何要殺死希特勒。
曾經一段時間，史陶芬伯格對克萊斯特麵授機宜：德軍即將改用新軍服，一批樣品已經生產出來，軍工廠決定找個時間請軍官和士兵試穿，讓希特勒檢閱。軍工廠的內線已與施陶芬貝格達成秘密協議，刺殺行動就選在希特勒閱兵之時進行，而試穿軍裝的其中一人便是克萊斯特，按照設想，克萊斯特要把炸彈捆綁在腹部，待希特勒上前細看時引爆，與他同歸於盡。但新軍服在盟軍轟炸期間全部被毀，希特勒一紙令下：取消閱兵式。
於是，秘密組織隻能等待下一次機會，一九四四年六月，史陶芬伯格被提升為德國後備軍司令弗洛姆將軍的參謀長，這個位置使他能夠經常與希特勒進行接觸，並決心著手進行策劃和準備，反複練習用殘剩的三個手指安裝操控英國製定時炸彈。一九四四年七月十一日，史陶芬伯格帶了一個炸彈，與希特勒和戈林在一起待了半時，但他沒有撥動炸彈開關，因為希姆萊不在場，他們曾決定最好將納粹三魔頭(希特勒、希姆萊、戈林)同時殺死。
第二次機會是七月十五日，希姆萊和戈林都不在場，史陶芬伯格離開房間打電話通知夥伴，雖然隻有希特勒一人，他也決定啟動炸彈裝置，可是當他返回會議室時，希特勒已經離開。七月十九日，史陶芬伯格突然接到通知，要他次日十三時到希特勒藏身的地堡“狼穴”報告關於編組新的 “人民步兵師”的進展情況。這一次，決他定不論另外兩人是否在場都要炸死希特勒。
七月二十日早晨，陽光燦爛，氣很熱，史陶芬伯格帶著自己的副官哈夫登中尉飛往“狼穴”，他在公文包裏放了三樣東西：兩枚炸彈、一個定時引爆裝置和一件襯衫。十一時，他準時到達“狼穴”，一位負責接待的副官現他的皮包非常重，史陶芬伯格神態自若道：“我們有很多事情要談。”
十二時過後，史陶芬伯格走進最高統帥部長官凱特爾的辦公室，凱特爾告訴他，因為墨索裏尼要在十四時三十分到達，原定1時召開的會議提前到十二時三十分。時間已所剩無幾了，左眼失明，左手隻有三個手指的施陶芬貝格匆忙躲進廁所，開始組裝炸彈。盛夏的高溫加上過分緊張，使施陶芬貝格的動作變得遲緩。有幾位軍官甚至從他附近走過，看見他在包什麼東西，但誰能想到，史陶芬伯格上校竟敢在希特勒的指揮部組裝炸藥，而且他是位眾人皆知的人物，一九四三年他在突尼斯的一次戰鬥中嚴重受傷，炮彈炸斷了他的右手，左手隻剩下三個指頭，右眼完全失明，但由於他指揮正確、作戰英勇很受希特勒賞識。