-
微信號:youuav
關(guān)注官方微信
m.youuav.com手機(jī)掃碼看新聞
-
- 添加收藏
- 關(guān)于我們
無人機(jī)整機(jī)
無人機(jī)配件
無人機(jī)服務(wù)
設(shè)備與工具美國國防大學(xué)研究員扎卡里 · 卡倫伯恩在《原子科學(xué)家公報》上寫道，" 如果有人在自動襲擊中喪生，這很可能是歷史上已知的首個使用基于人工智能的自動武器進(jìn)行殺人的案例。"
▲ KARGU-2（卡古 2 號）。圖片來源 STM 公司官網(wǎng)
科幻作品中 AI 有自主意識的一幕似乎正在出現(xiàn)。
據(jù)多家媒體報道，聯(lián)合國利比亞問題專家小組日前發(fā)布的一份報告稱，在 2020 年 3 月利比亞民族團(tuán)結(jié)政府與哈夫塔爾領(lǐng)導(dǎo)的軍隊(duì)發(fā)生戰(zhàn)斗期間，土耳其制軍用無人機(jī)自主追捕、攻擊了人類。
報告中寫道：" 哈夫塔爾的軍隊(duì)在撤退時，遭到了無人機(jī) KARGU-2（卡古 2 號）等致命自主武器系統(tǒng)以及其他巡飛導(dǎo)彈的追捕和遠(yuǎn)程攻擊。"
美國國防大學(xué)研究員扎卡里 · 卡倫伯恩在《原子科學(xué)家公報》上寫道，" 如果有人在自動襲擊中喪生，這很可能是歷史上已知的首個使用基于人工智能的自動武器進(jìn)行殺人的案例。"
軍用無人機(jī)技術(shù)上早已能夠自主攻擊
無人機(jī)參加軍事行動并不鮮見。2020 年阿塞拜疆和亞美尼亞之間 45 天的納卡戰(zhàn)爭中，阿塞拜疆軍隊(duì)使用的土耳其產(chǎn) TB-2 無人機(jī)和以色列 Harop 自殺式無人飛機(jī)就已大出風(fēng)頭。但這些軍用無人機(jī)都由后方人員操控，而非自主行動。
而聯(lián)合國這份調(diào)查報告稱，KARGU-2 這種 " 致命的自主武器系統(tǒng)被編程來攻擊目標(biāo)，而不需要操作員和彈藥之間的數(shù)據(jù)連接，機(jī)上裝載炸藥，能夠?qū)δ繕?biāo)進(jìn)行自殺攻擊，并且在撞擊時引爆。
這等于是說 KARGU-2 疑似成了 " 殺人機(jī)器人 "。
KARGU-2 制造商土耳其 STM 公司的資料似乎變相證實(shí)了聯(lián)合國報告的判斷。該公司稱，無人機(jī)可以使用 " 機(jī)器學(xué)習(xí) " 和 " 實(shí)時圖像處理 " 來對付目標(biāo)。
資料顯示，這款無人機(jī)的傳感器具備景象識別或人臉識別功能，可由地面控制人員進(jìn)行控制，或自主殺傷，并可以組成編隊(duì)展開 " 蜂群 " 攻擊。
俄羅斯媒體引用無人機(jī)領(lǐng)域?qū)＜业脑捳f，無人機(jī)自主決定獵殺有生力量，這在技術(shù)上是可行的，出現(xiàn)這種情況也僅是時間問題，關(guān)鍵是，哪個國家會第一個打開這個 " 潘多拉魔盒 "。
沖擊 " 機(jī)器人三定律 "
當(dāng)然，也存在另一種可能：在 2020 年 3 月利比亞內(nèi)戰(zhàn)的這場戰(zhàn)斗中，KARGU-2 其實(shí)是由利比亞政府軍在后方操縱的。
只是因?yàn)槭褂?KARGU-2 是公然違反聯(lián)合國決議的行為，所以干脆把責(zé)任推到了無人機(jī)自主攻擊上，以免外交上被動。
根據(jù)聯(lián)合國安理會 1970 號決議第 9 條，對利比亞內(nèi)戰(zhàn)雙方是實(shí)施武器禁運(yùn)的。決議要求所有會員國禁止 " 直接或間接向利比亞民眾國供應(yīng)、出售或轉(zhuǎn)讓任何類別軍火或相關(guān)軍用物資，包括武器和彈藥、軍用車輛和裝備、準(zhǔn)軍事裝備及上述物項(xiàng)的備件 "。KARGU-2 是土耳其制造，使用歸使用，但使用者未必想渲染此事。
但假如確實(shí)當(dāng)時發(fā)生了無人機(jī)自主攻擊人類的事，問題就嚴(yán)重了。
著名科幻作家阿西莫夫在 1950 年出版的小說《我，機(jī)器人》中描述人工智能的世界時，提出了 " 機(jī)器人三定律 "。即機(jī)器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管；機(jī)器人必須服從人給予它的命令，當(dāng)該命令與第一定律沖突時例外；機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己的生存。
后來，" 機(jī)器人三定律 " 被公認(rèn)為確定了人類和 AI 的基本關(guān)系。其不僅為后世的《終結(jié)者》《黑客帝國》等一系列科幻作品提供了靈感，也成為人類發(fā)展 AI 技術(shù)的守則。
現(xiàn)代軍事技術(shù)發(fā)展絕非只有軍用無人機(jī)能夠通過傳感器自動鎖定并攻擊目標(biāo)，冷戰(zhàn)以來，其他類別的致命武器都在研究開發(fā)中，遠(yuǎn)遠(yuǎn)走在了民用前面。
其實(shí)，不管無人機(jī)自主攻擊人類一事是真是假，聯(lián)合國的這份報告都在提醒人們：未來，" 機(jī)器人三定律 " 究竟能不能守得住，還要劃個大大的問號。
沒有有效的國際法可以制約
與核武器不同，像軍用無人機(jī)這樣的武器很容易制造和流通。如果 AI 在軍用無人機(jī)這樣的裝備上得到無限拓展使用，無人機(jī)可以更快地自主學(xué)習(xí)的時候，國際安全體系將面臨巨大風(fēng)險。
核武還有《核不擴(kuò)散條約》的制約，全球絕大多數(shù)國家都加入了這一條約，而對軍用無人機(jī)這樣的致命武器，目前沒有有效的國際法能制約。
其實(shí)國際社會有識之士也做過努力。上世紀(jì) 90 年代，聯(lián)合國《特定常規(guī)武器公約》生效，后來有識之士希望把伴隨科技發(fā)展出現(xiàn)的新型致命武器納入其中。2018 年，聯(lián)合國召集開過《特定常規(guī)武器公約》會議，88 個國家和地區(qū)的代表在會上就 " 致命自主武器系統(tǒng) " 達(dá)成了 10 項(xiàng) " 可能的指導(dǎo)原則 "。
其中第二項(xiàng)規(guī)定：" 人類必須保留使用武器系統(tǒng)的決策責(zé)任，因?yàn)樨?zé)任不能轉(zhuǎn)交給機(jī)器。" 但這個公約只是提倡，沒有約束力。美國、澳大利亞等國還阻止就禁用 " 殺手機(jī)器人 " 達(dá)成具有法律約束力的國際公約。
從這個角度看，" 致命自主武器系統(tǒng) " 在未來帶給人類的危險，其實(shí)是人類帶給自己的。我們對未來科技的期待，不應(yīng)該包括這種危險。
2023-08-15 11:23
2021-10-27 13:08
2021-10-26 12:15
2021-09-28 09:51
2021-09-18 17:32
2021-08-31 09:07
2021-08-31 08:50
2021-08-31 08:46
2021-08-26 08:45
2021-08-26 08:43
