蔡允恭是荊州江陵人,他的祖父曾任梁尚書議曹郎,他的父親在後梁任左民尚書。蔡允恭一表人材,風度翩翩,又善於吟詩作文。他的詩文也是綺麗錯雜,纖巧浮華,在當時十分盛行。
蔡允恭在隋朝曆任著作郎、起居舍人,以文才得到隋煬帝的親用。隋代開國之初,文壇上依然是南朝浮豔文風占統治地位,隋文帝對此不滿,專門下詔:“公私文翰,並宜實錄”,提倡樸實自然的文風。他還懲罰過文表寫得華豔的泗州刺史司馬幼之。後來治書禦史李諤上書,指斥南朝文風是:“連篇累牘,不出月露之形;積案盈箱,唯是風雲之狀。”隋文帝命令把這篇奏書頒告天下。
楊廣在未即位以前,在文學主張上緊隨其父,對荒淫享樂,粉飾太平的宮體詩風大加攻擊,以迎合隋文帝的意思,討得歡心。他當了皇帝後,立即脫去偽裝,來個一百八十度的大轉彎,專門提倡荒淫詩風。隋煬帝對南朝文化一向非常醉心,“好為吳語”,多次遊幸江都。他自己也寫詩,風格也是輕側浮豔,如《宴東堂》、《嘲司花女》、《江都宮樂歌》等等。
隋煬帝寫了詩歌辭賦,常讓蔡允恭朗誦或演唱,看樣子蔡允恭還有相當的表演才能。不過,隋煬帝還是不大滿蔡允恭雅善吟詠意。誰讓他是個男的呢?煬帝愛的是美女而不是美男。於是,隋煬帝令蔡允恭入宮教宮女朗誦詩文。蔡允恭深以為恥,借口有病在身,磨磨蹭蹭,不按時去。隋煬帝為了調動他的積極性,答應提升他為內史舍人,條件是他要好好教宮女。蔡允恭堅決推辭,不當這個官。隋煬帝覺得很掃興,逐漸地疏遠了這個“不識抬舉”的詩人。
隋煬帝在江都被殺,群臣都被宇文化及挾裹而行。宇文化及初敗於李密,再敗於竇建德,最後朝臣大多被竇建德收用,蔡允恭也在其中。
竇建德在武牢兵敗後,蔡允恭被李世民任用為秦王府參軍兼文學館學士,參謀軍事,蔡允恭未必能勝任;研討文史,卻是他的長項。蔡允恭在陪李世民吟詩論文之餘,還撰寫了一本史書,名為《後梁春秋》。他的詩文也有十卷之多。
貞觀初年,蔡允恭升任太子洗馬,但時間不長就退休了。不久,蔡允恭病逝於家中。