若槍械問題，本係前督馬毓寶購定一萬枝，當時交過三千枝，其餘七千枝經內務司於烈鈞到任時具文來府，請款十二萬，續彙滬上。彼時烈鈞以地方安寧，無事多械，本不欲再購，以增人民擔負，隻以從前已經交過十二萬元，棄之未免可惜，不得已與財政、軍務兩司措此巨款，交由俞應麓至滬續辦。當於上年四月間彙解到滬，經俞司長驗收，以此項槍械間有窳敗者，遂與交涉起訴，得以折扣爭回四萬金。由是輾轉遷延，遂於上月由滬起運。惟運輸軍械，前清曾有定章，須陸軍部許可，給予護照，方可起運。然此乃專製時代之手續，光複後黃留守府曾發過特別護照。迨留守府取消後，陸軍部遂有通令，謂嗣後各省購辦軍裝，須歸中央收納，因各省概不讚成，於是因而取消。不謂取消之後，中央又拍一電，謂留守府現已取消，其所發護照亦應隨而取消。夫南京政府為中華民國根本政府，所頒命令未便不遵，故於此項軍械起運時曾以此意電商中央，當承許可。故烈鈞又電海軍部，請派魚雷艇一艘，沿途護送。詎料甫經到潯，戈鎮守使（戈克安）即有電來省，謂奉軍、參兩部電令，飭其扣留，請烈鈞另電中央申明等語。烈鈞閱電，不勝詫異，然猶以為中央或有誤會也，遂將扣留一節擱置不提，惟以婉語拍電詳陳前項理由。而陸軍部段總長複電，竟謂烈鈞驅逐民政長，又派兵分駐湖口及水巡總監移駐湖口，顯有抵抗中央之意，此項槍械應即扣留，發給軍艦應用。殊不知民政長係人民反對，烈鈞等不能以私交而強為挽留也。至於水巡總監移駐湖口，係揣測內地情形，審察地利，湖口為贛省衝要地點，以之移駐自是軍政上關係。即軍隊出防，亦係此意，與民政長問題兩不相悖。於是烈鈞又以此項理由通電解釋。此扣留軍械案之詳情也。
至派兵一層，係因軍隊聚居省城，雖各統領約束有方，軍紀嚴明，各兵士亦深明大義，講求有素，然終恐或有齟齬，反多窒礙。即上年年終校閱時，回思當初裁並改造諸事尚稱平穩，不致貽誤，故能收機動演習之成績，亟思再以舉行，藉以練習，為將來對外之預備。此烈鈞遣布各軍出發南康、湖口、建昌、景鎮等處之本旨也。乃人或不諒，致滋誤會而起謠言，謂中央派鎮撫使矣，汪氏帶兵來贛矣，九江打仗矣。
總觀以上三端，民政長問題，烈鈞已請賀國昌、彭程萬二人為代表，入京會同俞應麓、吳介璋向大總統、國務院等處詳細陳明。聞四人日間業已接洽，並陳說江西對於中央如何之擁護，如何之服從。現時大總統已徹底通明，遂派委王上將芝祥來贛調查，以便雙方解釋，兩免猜嫌。由此看來，以上三問題稍延日期當不難明白解決也。現時共和時代以人民為主體，如政府苟有不合，不妨開會討論，直接反對。
烈鈞因病不複多言，請以簡淺兩語括之。烈鈞蒞事之始，即抱定犧牲性命、保全人民財產為宗旨，現終不敢變異初心。惟今日設身處地，亦非敢貪圖安樂，況與諸君曾同患難，斷不致在內地有開戰爭舉動，又況外患日急，即開戰亦須至西伯利亞、庫倫兩處。然對外雖靠兵力，而對內尤靠民氣。諸君散會後，可釋疑慮，或由商會開會宣布，以釋群疑。
據上海《申報》（一九一三年二月二十三日）
省議會開幕祝詞
（一九一三年二月二十四日）
維中華民國二年二月念四日，江西省議會開幕，郡邑群彥簪裙鹹集，烈鈞避席擇言，謹代表八十餘縣父老兄弟而致詞曰：
天佑中國，共和肇基，爰代議士製為建邦之根本。今者諸君承全省父老兄弟之委托，為全省謀福利，民國第一次正式省議會於以開幕，是諸君所處之時期非前清之谘議局比也。集多數之英賢，為從容之研究，一方麵維持地方，一方麵衛國本，期以三年慰萬姓之喁喁望治，諸君所負之責任更非前此之臨時議會比也。江西僻居內地，風氣晚開，將何以謀教育之普及？民意未表，將何以代表輿論，旌別是非？諸君熱心公益，熟悉民情，學識宏遠，必能發抒儻論也。益贛益國，此則烈鈞所社稷而屍祝者。
據上海《民立報》（一九一三年三月三日）
在省議會的演說
（一九一三年二月二十四日）
諸父老兄弟，歡聚一堂，不勝慶幸。光複以來，已年餘矣，至今日正式議會成立，其榮幸真有不可言喻者。前清之谘議局，為專製政體之議會，臨時省議會為倉猝召集，惟此正式議會成立為我中華民國第一次之異數，是以鄙人與此盛會，不勝愉快。鄙人歡迎無量，故期望亦無窮。回贛以來，現象迭更，困難倍極，一切措置，毫無成效，殊深抱歉，其不得已之苦衷，當為諸父老兄弟所共諒。現在省官製尚未決定，省議會擬照前清谘議局仿行，此中牴牾之點甚多，蓋國體已更，情形迥別。所幸總統命令有前谘議局章程與國體不合者，一律刪除。總之，當以民權為根本，則民國之真精神自能發達。其中牴牾之處千萬不可錯誤，致滋謬妄，宜由議會討論，根據立法機關詳細解決。鄙人為行政長官，立法監督行政，不能以行政監督立法，此天下之公論，非有所阿好也。惟鄙人對於貴議會，實有國民一分子之感情，故不覺言之長耳。