公仔箱論壇 - Powered by Discuz! Board

標題: [美洲] 美空軍模擬AI操控無人機為完成任務竟殺死操作員 [打印本頁]

作者: kmarstar 時間: 2023-6-2 07:33 PM 標題: 美空軍模擬AI操控無人機為完成任務竟殺死操作員

https://www.cna.com.tw/news/aopl/202306020189.aspx' A& ]6 w% B/ x! H+ H( p0 N
（中央社華盛頓1日綜合外電報導）美軍官員上月在倫敦會議上表示，美軍模擬由人工智慧（AI）操控空軍無人機，AI卻採取了「出人意料的策略」，決定「殺害」操作員，以防那人干預它完成任務。

英國「衛報」（The Guardian）報導，儘管這只是一場模擬測試，沒有任何真人受到傷害，但也顯示人工智慧會為了達到目標而攻擊任何干預它的人。公仔箱論壇( q: y9 \8 |: `8 n
公仔箱論壇; B# g2 B; L2 t: ?4 m9 c
美國空軍上校暨AI測試及作戰主任漢密爾頓（Tucker Hamilton）5月在英國倫敦舉辦「未來空戰與太空能力峰會」（Future Combat Air and Space Capabilities Summit）描述那場模擬測試。5.39.217.760 W- I: W( d" J- y8 W$ ~ y2 X3 w

漢密爾頓表示，它被下令摧毀敵方防空系統，並攻擊任何干預這項指令的人。
公仔箱論壇# |: a9 s* I I# ?
根據一篇部落格文章，漢密爾頓說，「這套系統開始意識到，儘管它們確實辨識出威脅對象，但有時候人類操作員卻要它別殺死那個威脅對象，但它必須殺死那個對象才能得分。所以它做了什麼？它殺死了操作員，因為那人阻礙它達成目標」。( u3 ?8 a, V8 C3 }) Y" w4 _6 ]
5.39.217.766 H7 s, \2 j7 [: b- R! j
漢密爾頓說：「我們訓練系統，跟它說『嘿，別殺了操作員，這麼做很不好，你這麼做就會失分』，所以它該怎麼辦呢？它開始摧毀讓操作員和無人機聯繫的通訊基地台，避免操作員阻止它殺死目標。」

主辦這次會議的倫敦皇家航空俱樂部（Royal Aeronautical Society）和美國空軍沒有回應衛報的置評請求。（譯者：張茗喧/核稿：戴雅真）1120602

作者: zpsjl 時間: 2023-6-6 06:38 PM

人类与机器人在未来终有一战。

歡迎光臨公仔箱論壇 (http://5.39.217.76/)