提起人工智能，就不得不提到自主性。自主性被理解為比人工智能更復雜的東西，甚至有些觀(guān)點(diǎn)認為自主性等同于人工智能，事實(shí)上這并不太準確。

人工智能是一個(gè)總稱(chēng)，指的是廣泛的技術(shù)組合或是一系列技術(shù)或技巧，是一系列的傳感器和處理器，它們接收信息、處理信息并輸出。自主性從概念上來(lái)說(shuō)，是指一個(gè)命令或控制術(shù)語(yǔ)，它是一種獨立于其他控制或引導的操作能力，自主性更強調自我意識和自由意志。自主性很早以前就出現了，例如戰爭中使用的地雷，地雷是完全自主的，你把它埋在土里，它不再需要人來(lái)控制它，它只會(huì )機械地執行它的功能，實(shí)際上什么也不做，直到有人踩到它為止。當一名士兵的腳踩在地雷上，使得某些參數得到滿(mǎn)足，進(jìn)而地雷被激活后發(fā)生爆炸。人工智能可以具有“形式自我意識”，但不具備“實(shí)質(zhì)自我意識”，換言之，人工智能具有的是弱自主性。

當前，隨著(zhù)人工智能技術(shù)的發(fā)展，能夠自動(dòng)識別、鎖定和打擊目標的智能化武器系統逐漸出現，并能代替人類(lèi)執行簡(jiǎn)單的決策命令。如美軍的艦載“宙斯盾”系統、以軍的“鐵穹”系統、俄軍的“競技場(chǎng)”主動(dòng)防護系統、法軍的“鯊魚(yú)”系統等，由于這些系統的智能化水平目前還不高，自主交戰模式通常是最后選項。而在特定作戰領(lǐng)域，如網(wǎng)絡(luò )空間和電磁頻譜領(lǐng)域，人類(lèi)只能依托智能化武器系統進(jìn)行自主對抗。

從某種意義上說(shuō)，支持人工智能的系統允許存在自主能力，但并不需要自主。如自主武器系統，這是一種無(wú)人參與情況下自主選擇目標進(jìn)行打擊的武器系統。但是，要使武器具備自主能力，需要為武器系統提供大量的識別系統。以面部識別系統為例，這種識別系統通過(guò)大量的數據采集收集民眾信息。倘若該系統具備了完全的自主性，則這樣的識別系統可能會(huì )用于其它非法用途，導致事態(tài)失控。

未來(lái)，隨著(zhù)智能化武器系統的自主對抗成為新常態(tài)，在人工智能領(lǐng)域或處理自主性問(wèn)題時(shí)，人類(lèi)的判斷是機器所不能替代的，因此，將人工智能系統潛力最大化的方案并不是將人類(lèi)完全排除在外，而是從“人在回路中”向“人在回路上”轉變。在多數情況下，人類(lèi)戰士扮演監督員的角色，負責在開(kāi)戰前輸入目標特征和設定交戰規則，觀(guān)察戰場(chǎng)交戰情況等。