卡爾·埃爾森納是鞋匠巴爾特哈沙·埃爾森納·奧特的四兒子，他決心想要當一名刀具工人。於是，1884年他在德國南部和法國巴黎學徒結業後，他回到陀保河畔的宜溪鎮開設了一個刀具作坊。因為當時地處瑞士中部的施威思省還沒有工業，很多年輕的農民被迫到美國、澳大利亞和新西蘭等地謀生。為了創造新的就業機會，卡爾·埃爾森納於1891年發起並創建了瑞士軍刀行業互助會，首要的目的是使瑞士軍隊必須從德國購買的士兵刀本國統一生產。初試成功後，於1891年10月該協會製造出一批發往瑞士軍隊的瑞士軍刀。然後因相對較重，卡爾·埃爾森納又研製出一種輕便而更精巧的小刀，除具有士兵刀的主刀、鑽孔錐、開罐頭起子及改錐功能外，還增加了兩把小刮刀和一個開瓶塞鑽，這種僅有兩個彈簧的六折式小刀被命名為“軍官刀”，並於1897年6月12日享有了產品專利。從此具有文化意義的瑞士軍刀誕生了。當第一批軍刀誕生後，很短時間內就引起了很大轟動，很多來自國外的上門求貨者絡繹不絕。從此，瑞士軍官刀開始了其一百多年來不斷探索、創新的成功曆程。瑞士的軍刀麵對越來越多的訂單，卡爾·埃爾森納把瑞士軍刀的功能也不斷改進，很快刀上加了木鋸、剪刀、指甲銼、牙簽、攝子、帶金屬銼的金屬鋸、十字螺絲刀、鑰匙和放大鏡等工具，以致現在的瑞士軍刀有一百種以上的功能。在各種各樣的軍刀中，“旗艦”是有31種功能的“瑞士冠軍”瑞士軍刀，其生產工序達450多道，由64個獨立零件構成，這種刀的各種工具連同工具箱總重量不超過95克，比較便於攜帶。現代藝術博物館和在慕尼黑的德國實用藝術博物館都將Victorinox的“瑞士冠軍”瑞士軍刀作為工業設計精品收藏。
現在瑞士外交官和軍方高級官員經常向他們所訪問的國家和官員贈送瑞士軍刀。另外，瑞士軍刀對飛行員有特別的吸引力。1960年，美國U2偵察機飛行員在俄羅斯上空成功降落後，俄國人把他身上所帶的所有物品公之於眾，其中就有著名的小紅瑞士軍刀；尼日利亞空軍訂了大量帶有弧形刀刃的瑞士軍刀，當大勢已去時，可以切斷捆降落傘的繩逃生；美國國家航空航天管理局也曾預定“瑞士軍刀”作為“哥倫比亞”號航天飛機上的標準裝備。因此，“瑞士軍刀”在國外如德國、法國、西班牙、美國、日本和中國等國家經常被複製但質量卻不如真品。然而，不幸的是國外的很多複製品印上了瑞士十字，這種情況雖然通過瑞士大使們的調解和法院的命令來試圖加以阻止，但不法分子仍然在瑞士軍刀上加上十字樗來以假亂真。目前，真正得到官方授權可在刀上使用十字的僅有Victorinox和Wenger（威格）兩個瑞士生產廠家。