左、右牙指揮使張顥、徐溫哭著勸諫，楊渥勃然大怒說：“你們認為我沒有才能，為什麼不殺死我自己當節度使！”
張顥、徐溫二人非常懼怕。
楊渥挑選壯士，號稱“東院馬軍”，廣泛安置親信為將領官吏；所任命的人仗勢驕傲專橫，欺淩蔑視功臣舊人。
張顥、徐溫暗中謀劃發動叛亂。
楊渥父親楊行密在世的時候，有數千名親軍駐紮在節度使所居的牙城之內，楊渥把他們遷出在外，用騰出的空地作為騎射的場地，張顥、徐溫因此沒有忌憚了。
天祐四年正月初九日，楊渥早晨處理事務，張顥、徐溫率領二百牙兵，手執刀劍直入庭中，楊渥說：“你們真的要殺我嗎？”
張顥、徐溫回答說：“不敢這樣做，想要殺您左右擾亂政事的人罷了！”於是數說楊渥的親信十餘人的罪狀，將他們拖下去用鐵楇打死，稱之為“兵諫”。
諸將當中不與張顥、徐溫同心合力的，二人逐漸設法將其處死，於是軍政大權全歸二人，楊渥不能控製。
淮南左牙指揮使張顥與右牙指揮使徐溫專斷軍政事務，楊渥心中不平，想要除掉他們卻不能。張顥、徐溫自感不安，共同策劃殺死楊渥，瓜分南吳國土來向後梁稱臣投降。
天祐四年五月初八日，徐溫、張顥經過密謀，在揚州由張顥出麵，派將領紀祥等手持兵器闖入楊渥寢宮，坦率地對楊渥說：“奉命來殺你！”
楊渥忙說：“你們如果能撥亂反正，去殺掉徐溫、張顥，我就各封你們為刺史。”眾人聽了都心動，隻有紀祥不答應，並且舉刀砍去。
楊渥中刀倒地。紀祥見他還沒有斷氣，又用繩索將他活活勒死，對外則宣稱楊渥暴病而死，時年二十三歲。
楊渥被殺後，張顥想違約自立。徐溫憂慮此事，詢問門客嚴可求，嚴可求說：“張顥雖然剛愎自用，但對成就大事愚昧無知，這事容易對付。”
次日，張顥在府中排列劍戟，召將領們議事。張顥問諸將誰應當繼立，諸將不敢回答。張顥問了三次，嚴可求上前秘密稟告說：
“現在四境多事，非你不可，但恐怕行動太快。況且目前外有劉威、陶雅、李簡、李遇都是先王時的一等人物，你雖自立，不知道這些人能否誠心侍奉你？不如輔立幼主，時間久了，等待他們心服，然後你可自立。”
張顥不能回答。嚴可求於是出來，書寫一個告諭放在袖內，率領將領們入內。
將領們不知幹什麼，等到嚴可求拿出告諭宣讀，是楊渥之母史氏的告諭，說楊氏創業艱難，但即位的吳王不幸死去，楊隆演按次序應當立，諭告將領們不要背負而應妥善侍奉楊氏。
言辭激動，聽者感動。張顥氣色沮喪，終於不能有所作為，楊隆演於是能夠繼立吳王。
天佑五年，徐溫決意派鍾章襲殺張顥。鍾章同意後，挑選三十名壯士，宰牛烹羊，刺血立誓。
徐溫還是懷疑鍾章不果斷，半夜派人試探鍾章的意圖，佯裝對鍾章說：“徐溫上有老母，害怕事情不成功，不如暫且中止。”
鍾章說：“話已經說出口，難道還可以停止嗎？”徐溫於是放下心來。
第二天，鍾章刺殺張顥，徐溫趁機將紀祥等人全部殺掉，並把弑殺楊渥之罪嫁禍給張顥，將這些事稟告楊渥的母親史氏。
史氏膽戰心驚地哭著說：“我兒子年齡小，居然遭到這樣的禍亂，若能保護我們全家歸還合肥，就是你的大恩大德。”
徐溫殺張灝之後，擁立楊行密次子楊隆演繼位。
從此徐溫一人獨攬大權，後逐步翦除楊氏舊將勢力。徐溫擁立楊隆演後，升任升州刺史，並在金陵訓練水師。