https://www.cna.com.tw/news/aopl/202306020189.aspx
* s; M a8 Y# ^. O/ @* X" ^（中央社華盛頓1日綜合外電報導）美軍官員上月在倫敦會議上表示，美軍模擬由人工智慧（AI）操控空軍無人機，AI卻採取了「出人意料的策略」，決定「殺害」操作員，以防那人干預它完成任務。
* E4 d$ ?% v4 h- }5 @7 H: f+ u/ a1 w1 @+ M( B! V
英國「衛報」（The Guardian）報導，儘管這只是一場模擬測試，沒有任何真人受到傷害，但也顯示人工智慧會為了達到目標而攻擊任何干預它的人。1 b# h% ?, Y: |5 h
公仔箱論壇5 ^( ~5 A2 {! k: `# w" |+ f
美國空軍上校暨AI測試及作戰主任漢密爾頓（Tucker Hamilton）5月在英國倫敦舉辦「未來空戰與太空能力峰會」（Future Combat Air and Space Capabilities Summit）描述那場模擬測試。
# B8 V' f8 ~* {$ r- c2 r公仔箱論壇公仔箱論壇. R4 n: F2 z# {9 l5 Q+ N7 u
漢密爾頓表示，它被下令摧毀敵方防空系統，並攻擊任何干預這項指令的人。
* ?6 ^8 X! Q2 s1 Q1 p! H5.39.217.76公仔箱論壇* h# K) H" I& i- q X/ B1 P; q
根據一篇部落格文章，漢密爾頓說，「這套系統開始意識到，儘管它們確實辨識出威脅對象，但有時候人類操作員卻要它別殺死那個威脅對象，但它必須殺死那個對象才能得分。所以它做了什麼？它殺死了操作員，因為那人阻礙它達成目標」。
% P; K+ x6 U8 C# `
+ e6 L3 q9 z3 N) R* itvb now,tvbnow,bttvb漢密爾頓說：「我們訓練系統，跟它說『嘿，別殺了操作員，這麼做很不好，你這麼做就會失分』，所以它該怎麼辦呢？它開始摧毀讓操作員和無人機聯繫的通訊基地台，避免操作員阻止它殺死目標。」5.39.217.76. i" N: }0 k p: p8 f: D9 V
+ k* d) F- @! k$ c1 A/ q主辦這次會議的倫敦皇家航空俱樂部（Royal Aeronautical Society）和美國空軍沒有回應衛報的置評請求。（譯者：張茗喧/核稿：戴雅真）1120602 |
發表於 2023-6-2 07:33 PM
| 
