英國(guó)、美國(guó)和澳大利亞聯(lián)合試驗(yàn)支持人工智能的無(wú)人機(jī)群

作為與澳大利亞和美國(guó)聯(lián)合試驗(yàn)的一部分，英國(guó)政府已經(jīng)部署了一個(gè)“協(xié)作群”自主無(wú)人機(jī)，使用人工智能 (AI) 來(lái)檢測(cè)和跟蹤軍事目標(biāo)。  

該試驗(yàn)由英國(guó)國(guó)防科學(xué)技術(shù)實(shí)驗(yàn)室 (Dstl) 組織，于 2023 年 4 月舉行，涉及在實(shí)時(shí)“代表性環(huán)境”中部署無(wú)人機(jī)，并在飛行途中重新訓(xùn)練其 AI 模型。

它還涉及參與國(guó)無(wú)人機(jī)之間不同機(jī)器學(xué)習(xí) (ML) 模型的“互換”，并將這些相同模型部署在一系列地面車輛中，以進(jìn)一步測(cè)試其目標(biāo)識(shí)別能力。

英國(guó)國(guó)防部 (MoD) 表示：“三方團(tuán)隊(duì)合作開發(fā)聯(lián)合機(jī)器學(xué)習(xí) (ML) 模型，應(yīng)用測(cè)試和評(píng)估流程，并在不同國(guó)家的無(wú)人機(jī)上飛行。” “ML 模型被快速更新以包含新的目標(biāo)，并在聯(lián)盟和 AI 模型之間共享，這些模型經(jīng)過(guò)重新訓(xùn)練以滿足不斷變化的任務(wù)要求。”

國(guó)防部進(jìn)一步聲稱，使用自主系統(tǒng)獨(dú)立探測(cè)和跟蹤敵方目標(biāo)“將對(duì)聯(lián)盟的軍事能力產(chǎn)生巨大影響”，并且“如果我們要保持我們的作戰(zhàn)優(yōu)勢(shì)”，就需要“加快發(fā)展”軍事人工智能。

根據(jù) AUKUS 協(xié)議進(jìn)行——澳大利亞、英國(guó)和美國(guó)政府之間的一項(xiàng)三邊安全協(xié)議，旨在推動(dòng)整個(gè)印太地區(qū)在核潛艇、高超音速武器和人工智能等領(lǐng)域的軍事合作——該試驗(yàn)是聯(lián)盟先進(jìn)能力支柱的一部分，也稱為支柱 2。

這項(xiàng)工作的目的是協(xié)同加速這三個(gè)政府在軍事背景下對(duì)人工智能的集體理解，并最終將技術(shù)投入運(yùn)營(yíng)。

英國(guó)國(guó)防部副參謀長(zhǎng)Rob Magowan 中將說(shuō)：“這次試驗(yàn)展示了 AUKUS 先進(jìn)能力的軍事優(yōu)勢(shì)，因?yàn)槲覀兟?lián)合起來(lái)從更遠(yuǎn)的距離和更快的速度識(shí)別、跟蹤和對(duì)抗?jié)撛诘膶?duì)手。”

“加速技術(shù)進(jìn)步將提供必要的作戰(zhàn)優(yōu)勢(shì)，以戰(zhàn)勝整個(gè)戰(zhàn)場(chǎng)上當(dāng)前和未來(lái)的威脅。我們致力于與合作伙伴合作，以確保我們實(shí)現(xiàn)這一目標(biāo)，同時(shí)促進(jìn)負(fù)責(zé)任的人工智能開發(fā)和部署。”

美國(guó)國(guó)防部長(zhǎng) Aukus 的高級(jí)顧問(wèn) Abe Denmark 補(bǔ)充說(shuō)，先進(jìn)的人工智能技術(shù)有可能改變這三個(gè)政府應(yīng)對(duì)國(guó)防和安全挑戰(zhàn)的方式。

他說(shuō)：“這種能力展示確實(shí)是一項(xiàng)共同努力，因此是我們采取集體行動(dòng)領(lǐng)先于新出現(xiàn)威脅的關(guān)鍵一步。” “通過(guò)我們的 AUKUS 伙伴關(guān)系匯集我們的專業(yè)知識(shí)和資源，我們可以確保我們的軍隊(duì)配備最新和最有效的工具來(lái)保衛(wèi)我們的國(guó)家并維護(hù)世界各地的自由和民主原則。”

超過(guò) 70 名軍事和民防人員以及行業(yè)承包商參與了試驗(yàn)，其中包括來(lái)自無(wú)人機(jī)供應(yīng)商 Blue Bear 和 Insitu 的人員。

國(guó)防部此前于 2021 年 1 月宣布，它已根據(jù) Dstl 的“多無(wú)人機(jī)輕作業(yè)”計(jì)劃在坎布里亞郡進(jìn)行了自主“蜂群無(wú)人機(jī)”試驗(yàn)，該計(jì)劃由 20 架協(xié)同操作的無(wú)人機(jī)組成，可提供六種不同的有效載荷。

2021 年 7 月，皇家海軍陸戰(zhàn)隊(duì)根據(jù)其自主先遣部隊(duì) 4.0 計(jì)劃對(duì)無(wú)人機(jī)群進(jìn)行了進(jìn)一步的試驗(yàn)，其中六架無(wú)人機(jī)的任務(wù)是偵察和補(bǔ)給地面部隊(duì)。

2022 年 6 月，國(guó)防部 (MoD) 公布了 國(guó)防人工智能戰(zhàn)略， 概述了英國(guó)將如何與私營(yíng)部門密切合作，優(yōu)先考慮人工智能的研究、開發(fā)和實(shí)驗(yàn)，以“徹底改變我們的武裝部隊(duì)能力”。

盡管在這份72 頁(yè)的戰(zhàn)略文件中沒(méi)有詳細(xì)介紹其自主武器的方法 ，但 隨附的政策文件的附件 稱，在沒(méi)有“適當(dāng)?shù)娜祟悈⑴c”的情況下能夠識(shí)別、選擇和攻擊目標(biāo)的系統(tǒng)是不可接受的。

在國(guó)會(huì)研究服務(wù)處 2022 年 11 月發(fā)布的一份 關(guān)于“新興軍事技術(shù)”的報(bào)告 中，分析人士指出，出于道德方面的考慮，大約 30 個(gè)國(guó)家和 165 個(gè)非政府組織 (NGO) 呼吁先發(fā)制人地禁止使用自主武器圍繞它們的使用，包括可能缺乏問(wèn)責(zé)制和無(wú)法遵守有關(guān)沖突的國(guó)際法。

上議院審查人工智能武器
2023 年 1 月，上議院成立了武器系統(tǒng)人工智能委員會(huì)，以探討開發(fā)和部署自主武器的倫理問(wèn)題，包括如何安全可靠地使用它們、沖突升級(jí)的可能性以及它們對(duì)國(guó)際法的遵守情況。

在委員會(huì) 2023 年 3 月的第一次證據(jù)會(huì)議上，上議院警告說(shuō)，在軍事行動(dòng)中使用人工智能的潛在好處不應(yīng)與更好地遵守國(guó)際人道主義法混為一談。

隨后的委員會(huì)會(huì)議——可通過(guò)官方錄音和文字記錄在線獲取——引發(fā)了進(jìn)一步的擔(dān)憂。

例如， 4 月 20 日，蘭德歐洲國(guó)防與安全小組助理主任詹姆斯布萊克指出，雖然圍繞非國(guó)家行為者使用人工智能武器的對(duì)話往往會(huì)讓人聯(lián)想到“暴力極端主義組織的形象”，但他們應(yīng)該還包括“大型跨國(guó)公司，它們是處于開發(fā)該技術(shù)前沿的組織類型”。

他補(bǔ)充說(shuō)：“展望未來(lái)，由于其固有的基于軟件的性質(zhì)，從反擴(kuò)散和不擴(kuò)散的角度來(lái)看，很多這樣的東西將很難控制。

“我們現(xiàn)有的許多出口管制和反擴(kuò)散或不擴(kuò)散制度都集中在導(dǎo)彈、發(fā)動(dòng)機(jī)或核材料等老式傳統(tǒng)硬件上。這種事情是一個(gè)不同的命題，顯然是一個(gè)挑戰(zhàn)。”

然而，倫敦國(guó)王學(xué)院戰(zhàn)略學(xué)教授肯尼斯佩恩補(bǔ)充說(shuō)，私營(yíng)部門對(duì)人工智能發(fā)展的重要性日益增加并非不可避免，政府可以開始采取措施解決企業(yè)在這一領(lǐng)域的主導(dǎo)地位問(wèn)題。

“一個(gè)具體的例子是增加大學(xué)環(huán)境中研究人員可用的計(jì)算量。這樣做是新的國(guó)家計(jì)算戰(zhàn)略的一部分。主權(quán)基礎(chǔ)模型人工智能能力將是一個(gè)具體的步驟，作為再次使這些活動(dòng)民主化的更廣泛項(xiàng)目的一部分，”他說(shuō)。

佩恩進(jìn)一步告訴上議院，由“人機(jī)團(tuán)隊(duì)”進(jìn)行的軍事交戰(zhàn)的兵棋研究表明，可能存在“相當(dāng)迅速的螺旋升級(jí)”，因?yàn)?ldquo;對(duì)手將多少外包給自動(dòng)決策者的不確定性意味著你有搶先行動(dòng)并首先進(jìn)行報(bào)復(fù)”。

他補(bǔ)充說(shuō)，雖然我們通常對(duì)人類如何看待威懾、升級(jí)和脅迫有很好的理解，但我們對(duì)機(jī)器將如何駕馭這些復(fù)雜的動(dòng)態(tài)沒(méi)有類似的理解。

Payne 進(jìn)一步指出，在這種情況下，AI 不會(huì)簡(jiǎn)單地取代人類，而是將使軍事組織能夠采取“質(zhì)上不同”的行動(dòng)：“沒(méi)有人類相當(dāng)于 10,000 人的空中蜂群或可以停留在水下的淺灘無(wú)限期地出海。”

在4 月 27 日的另一場(chǎng)會(huì)議上，牛津互聯(lián)網(wǎng)研究所副教授 Mariarosaria Taddeo 表示，人工智能的不可預(yù)測(cè)性是“技術(shù)本身固有的”，并補(bǔ)充說(shuō)：“如果我們要在戰(zhàn)爭(zhēng)中使用人工智能，我們必須確保我們可以應(yīng)用法規(guī)，包括關(guān)于人們所負(fù)責(zé)任的法規(guī)，這很難做到，我們離找到解決方案還很遠(yuǎn)。”