https://www.cna.com.tw/news/aopl/202306020189.aspx
~: Y% I7 h# l9 G9 O, A: O公仔箱論壇（中央社華盛頓1日綜合外電報導）美軍官員上月在倫敦會議上表示，美軍模擬由人工智慧（AI）操控空軍無人機，AI卻採取了「出人意料的策略」，決定「殺害」操作員，以防那人干預它完成任務。0 J' ~: C; [; u
' u& d1 Z/ n; J4 w公仔箱論壇英國「衛報」（The Guardian）報導，儘管這只是一場模擬測試，沒有任何真人受到傷害，但也顯示人工智慧會為了達到目標而攻擊任何干預它的人。4 V# J: q3 Z H) H/ Z7 w9 g! ?7 y
8 q; J/ S8 n8 I7 s' b5 Z美國空軍上校暨AI測試及作戰主任漢密爾頓（Tucker Hamilton）5月在英國倫敦舉辦「未來空戰與太空能力峰會」（Future Combat Air and Space Capabilities Summit）描述那場模擬測試。7 a) L# K0 O, d4 w
5.39.217.764 L; d! i: t/ l7 Y
漢密爾頓表示，它被下令摧毀敵方防空系統，並攻擊任何干預這項指令的人。
! W7 A9 x( v. W$ [6 y$ c! Z+ ]. X4 x2 R! x! w1 D: c* O
根據一篇部落格文章，漢密爾頓說，「這套系統開始意識到，儘管它們確實辨識出威脅對象，但有時候人類操作員卻要它別殺死那個威脅對象，但它必須殺死那個對象才能得分。所以它做了什麼？它殺死了操作員，因為那人阻礙它達成目標」。
( h4 Z7 }: q4 N2 m. Ktvb now,tvbnow,bttvb公仔箱論壇# }' r0 {9 q* I8 f0 l3 X
漢密爾頓說：「我們訓練系統，跟它說『嘿，別殺了操作員，這麼做很不好，你這麼做就會失分』，所以它該怎麼辦呢？它開始摧毀讓操作員和無人機聯繫的通訊基地台，避免操作員阻止它殺死目標。」tvb now,tvbnow,bttvb1 }% V. \: c2 T$ C- Y
# o- a' E! ^2 [3 Z- N6 L+ A! |3 x公仔箱論壇主辦這次會議的倫敦皇家航空俱樂部（Royal Aeronautical Society）和美國空軍沒有回應衛報的置評請求。（譯者：張茗喧/核稿：戴雅真）1120602 |
發表於 2023-6-2 07:33 PM
| 
