滿族入關統一全國後，為了鞏固其統治，在水陸險要以及一些省份的中心城市及少數民族地區，設有駐防滿洲、蒙古、漢軍的八旗官兵，置將軍、都統、副都統、城守尉各官員統轄。清初就對邊疆和少數民族聚居地區等各重要行省多設將軍駐守，乾隆中葉後，始定為十四將軍：以盛京、吉林、黑龍江將軍控製東三省；西安、寧夏、綏遠城、伊犁、烏裏雅蘇台的將軍控製西北邊疆；江寧、福州、荊州、成都、廣州將軍轄瀕江臨海要地。將軍下轄副都統、城守尉分駐各地。將軍為八旗駐防各地的軍政最高長官，“權勢重，地位高，初製正一品，乾隆三十三年（1768年）改為從一品”。分駐各地將軍的職銜前都冠以所駐各地之名，黑龍江將軍的全稱為鎮守黑龍江等處地方將軍，是清代設置的十四個將軍之一。
（一）設置原因
明末清初之際，沙俄趁清軍入關取代明朝統治的時機，沙俄雅庫次克當局戈洛文派其文書官瓦西裏、波雅科夫率132人，於明崇禎十六年（1643年）即清崇德八年十月底，翻越外興安嶺，侵入中國精奇裏江（今屬俄羅斯結雅河）流域。清順治元年（1644年），沙俄政府訓令雅庫次克行政長官確定了“如果不可能用文雅手段將‘新土地’居民置於俄國統治之下，就用武力加以鎮壓，使其地變成廢墟”的武裝侵略中國的策略。由於清軍忙於進關統一中國，沒有對沙俄的入侵進行有效的防禦，致使沙俄哈巴羅夫率領俄國遠征軍翻越外興安嶺，侵入黑龍江沿岸的達斡爾首領拉夫凱的管轄區，隨後，又侵入達斡爾頭人阿爾巴西的故地雅克薩。沙俄侵略軍燒殺搶奪的野蠻行徑，遭到當地達斡爾族人的頑強抵抗。當地各族人民派代表到寧古塔控訴沙俄匪徒的暴行，要求官軍出兵進剿和予以保護。寧古塔梅勒章京（梅勒章京為官名，由梅勒額真改稱，漢名為副都統）海色率領600多名清軍，在當地1000餘名各族居民的聯合抗擊下，給沙俄一定的打擊，但由於清軍沒有足夠兵力和有效的措施抗擊俄軍，使“沙俄侵略者輪番洗劫，黑龍江沿岸地區社會經濟遭到嚴重破壞”，沿邊各族居民被俄國人的索貢和收糧弄得一貧如洗；清政府鑒於一部分居民四散奔逃，始被迫下令內遷，黑龍江沿岸村落變成一片廢墟。
俄國人從順治八年（1651年）占領屬於達斡爾人的城池雅克薩之後，繼續竄擾，並在占領地采取築城以守的政策，九年（1652年）在今俄羅斯哈巴羅夫斯克附近築阿槍城，十一年（1654年）秋天，斯捷潘諾夫在呼瑪爾河口修築城堡，取名“庫馬拉堡”，十四年（1657年），斯捷潘諾夫等溯鬆花江而上，到尚堅烏黑（今佳木斯市大賚鄉）搶糧食，十五年（1658年），沙俄涅爾琴斯克邊區都督帕什科夫，強占尼布楚（明末清初為茂明安諸部遊牧之地，即今俄羅斯涅爾琴斯克），屯兵築城，作為其黑龍江上遊的侵略據點。由於沙俄對我國黑龍江流域不斷入侵，“寧古塔將軍反擊侵略者的任務日益繁重”。可駐守寧古塔地的軍隊數量有限，且遠離黑龍江沿岸地區，特別是對抗擊沙俄在黑龍江中上遊一帶的滲透和蠶食，因路途遙遠，鞭長莫及。清軍從寧古塔出發大約得幾個月時間，待到達該地區時已經精力耗盡，同時軍事供給也成問題，對征剿俄軍極為不利。康熙帝執政後，為了防止沙俄的不斷入侵，驅逐沙俄的侵略勢力，收複失地，於康熙二十一年（1682年），派副都統郎坦等以捕鹿為名，到達斡爾、索倫地方偵察敵情。康熙帝在命令郎坦等偵察雅克薩“羅刹情形”所頒布的上諭中說：爾等還時，需詳視自黑龍江至額蘇哩航行水路，對於額蘇哩至寧古塔的路程也要派人往視之。”郎坦等人經過三個月的偵查，於康熙二十二年（1683年）回到北京，彙報了所了解到的情況，並奏請發兵3000名以攻取羅刹。康熙帝經過分析敵情，主張“暫停攻取，同時決定調烏拉（今吉林市）、寧古塔1500名士兵，並製造兵船、發紅衣大炮、鳥槍，在額蘇哩、呼瑪爾地方建木城，令巴海、薩布素統兵前往，提出備足軍糧，永戍黑龍江的要求”。九月初九（10月29日），康熙帝明確諭令：“我兵既命永戍額蘇哩，應派烏拉、寧古塔兵五六百人，打虎兒兵四五百人，於秋間家口發往，設將軍、副都統、協領管轄鎮守，深為有濟。”這是康熙帝為抗擊沙俄入侵的一大政治舉措，從中可以看出黑龍江將軍的設置是與清朝為抗擊沙俄入侵、永駐邊疆的政策分不開的。
（二）黑龍江將軍駐地的移置
康熙二十一年（1682年）三月，在剛剛平定“三藩”之亂後，康熙帝即把注意力轉移到抗擊沙俄上，著手籌劃剪除“羅刹”的方略，在“躬詣盛京告祭三陵”之際，省觀烏拉地方。在八月派郎坦到雅克薩偵察敵情時，特意囑托郎坦要注意查看額蘇哩地形，讓其“還時須詳視黑龍江至額蘇哩舟行水路，對於額蘇哩至寧古塔的路程，也要派人往視之”。康熙帝讓郎坦等人視察額蘇哩的目的是準備在額蘇哩建城設置駐守，在二十二年四月初七（1683年5月3日）的議政王大臣會議上，康熙帝提出在額蘇哩建城駐兵，額蘇哩雄踞黑龍江與呼瑪爾之間，可以兼顧上下首尾，便於攻取退守；可以藏船，有利於退兵、屯兵；且有田壟舊跡可以屯田取食”。對此我國著名曆史學家夏家駿先生認為，“康熙帝諭令巴海籌建黑龍江、呼瑪爾二城之前，早已注意到額蘇哩的重要性”。額蘇哩比黑龍江（舊璦琿）的優越處在於它距“羅刹”盤踞的雅克薩城近。這樣，在額蘇哩設治屯兵，對攻取盤踞雅克薩的敵人有利得多。於是，康熙帝在九月初九（10月28日）諭令“大兵建立木城，於此駐紮，永戍額蘇哩，設將軍、副都統、協領管轄鎮守”。可見，朝廷命令將軍衙門最初設在額蘇哩。由於薩布素與康熙帝在將軍衙門駐地選址的觀點不一致，才使後來設置黑龍江將軍駐地發生了變化，《清實錄》中記載了薩布素的幾次彙報情況。薩布素第一次彙報提出冬季進征困難多，要求改在來年春天進行，薩布素奏稱：“冬時進征，炮具軍糧輸運維艱，倘遇大雪，亦未便用兵。今冬可暫駐額蘇哩，俟來年四月冰解，既往攻雅克薩。”康熙帝接到奏報後，命議政王大臣會議研究，議政王大臣議複：前奉暫停攻取，相機舉行之旨，薩布素請於來年四月進征，毋庸更議。”康熙帝諭曰：“我兵即命永戍額蘇哩，應派烏拉、寧古塔兵五六百人，打虎兒兵四五百人，於來秋月家口發往，設將軍、副都統、統領、協領管轄鎮守，深為有濟。至來年，運席北（錫伯）諸地糧米於額蘇哩，若隻用獵戶，必須稍遲。薩布素等業已支取半年六月前兵食裳行，今又停止進征，應量發薩布素等軍水手，俟來年冰解，與獵戶協運。”
派郎坦馳驛速往薩布素處商量確定。薩布素第二次向康熙帝彙奏時提出額蘇哩地七月就有霜雪，要求先派兵進行耕種，將寧古塔三千兵丁分三批輪流駐守額蘇哩，奏稱：“以烏拉、寧古塔三千餘兵，分為三班，將軍、副都統等更番統領駐防。”
強調“若今年秋遷移，恐地寒霜早，諸穀不獲、難以糊口”等困難，議政王大臣等議如所奏。“果如薩布素等所奏，兵丁頻事更番，必致困苦，非久長之策。”黑龍江將軍衙門駐地由額蘇哩遷移到黑龍江城，雖然與薩布素強調在額蘇哩地方的種種困難有直接關係，但也不是決定性因素，而在於郎坦和彭春調查的結果，即：從璦琿到雅克薩，舟楫可通，無險阻之患，兩岸均可遷攬而行，從璦琿至黑龍江和鬆阿裏江（今鬆花江）彙合處，馬行可半月程。從兩岸河口至雅克薩城，馬行可一月程，舟行逆流可三月程。舟行雖稍遲時日，凡軍餉、重器皆可至於雅克薩城下。”康熙帝才改變了將軍駐地選址，決定在黑龍江左岸，築城永戍，並決定到來年春發盛京兵築黑龍江城（今俄羅斯維謝雪村），仍設將軍、副都統領之；康熙帝對在黑龍江地方建城的具體事項進行了“一一區畫”，然後派遣理藩院郎中額爾塞到額蘇哩與薩布素“確議以聞”。薩布素接到康熙帝的諭旨後，於二十二年（1683年）再次進奏稱：
“永戍黑龍江諸務，上諭周詳，悉宜遵奉。但來年遷移，兼以築城屯田，力不支。請發烏拉、寧古塔兵五百人協力築城，工竣即回”。康熙帝接到薩布素奏折後，即頒上諭：烏拉、寧古塔兵別有調遣，毋得發往，令副都統穆秦率京兵600人於來年三月抵彼處。築城器具，悉備以行，餘俱如前議。”康熙帝確定了在璦琿建城永戍的決策之後，很快就於十月二十五日（12月12日）任命薩布素為首任黑龍江將軍，也稱駐守璦琿等處地方將軍。夏家駿先生認為：黑龍江將軍駐地‘最早設在額蘇哩，康熙二十三年（1684年）春才遷去黑龍江城（舊璦琿）’。”此謂黑龍江將軍駐地第一次遷移。
璦琿地處黑龍江北，位於精奇裏江以下四五十裏地方（原璦琿村舊址，明時忽裏平寨）。康熙十三年（1674年）曾在這裏築過木城，從璦琿騎馬8天可到達雅克薩城，這裏土質肥沃，盛產糧食，康熙帝所派600名盛京築城之兵和600名專事耕種的兵丁，均於康熙二十三年（1684年）三月到達璦琿。所建璦琿城周長940步，設5個城門，內城牆是用草垡子壘砌，城牆2米多高，在每個城門上安放兩門帶車輪的大炮，城的外郭是挖有2米多深的環城壕溝。城牆外圍又圍以1米多高、2米多厚的木樁，連同城內居民所住的房屋，亦已於八月建成。隨後，薩布素將軍駐進璦琿城。但薩布素並沒有利用有利時機和地勢，對盤踞在雅克薩的俄國發動攻勢，而於七月初二（8月12日）向康熙帝奏請“暫停進剿，俟來年四月進兵”的同時，分兵“在江南距璦琿城12裏的下遊托爾加城舊址興建一座城池”。（後稱江北璦琿城為舊璦琿城，在江南修建之城為新璦琿城）康熙帝對薩布素坐失攻取盤踞雅克薩侵略軍良軍，擅建新璦琿城的錯誤給予了斥責，“諭令議政王大臣，嚴議申飭”。九月十一日（10月19日）議政王大臣會議：薩布素應即嚴加議處。但現領大兵，臨羅刹之境，姑俟事峻再議。”朝廷對薩布素的處分隨著第一次雅克薩之戰的勝利而取消。雅克薩戰爭勝利後，康熙帝特別高興：四十年盤踞之眾，數日即行擊破，收複雅克薩城，今既告成功，薩布素等前此緩兵不進等罪概行赦免。”薩布素擅建新璦琿城一事，因“概行赦免”而“不了了之”。