本帖最後由 manyiu 於 2023-4-14 10:57 AM 編輯 ; ]/ x- Y! ]2 y8 _0 l1 [$ B
公仔箱論壇+ X- Q$ E* b% R9 S4 I; d$ i
馬斯克等千人簽署 籲暫停巨型AI實驗!
6 O* g6 D: [, V# Y$ `& g: p
/ I. E# ]7 c# h公仔箱論壇2023年3月29日週三 0 ?7 j5 V, u1 q- t* y1 ~! [
2 i1 _+ d; f: m! v1 n# D" s公仔箱論壇 tvb now,tvbnow,bttvb3 J0 S0 ~; @3 l+ t# E
馬斯克等千人簽署 籲暫停巨型AI實驗
+ {# r* `( V0 I7 W% c5.39.217.76: t7 F- w2 i+ Q0 X$ S1 h
正當發展 AI 成為最新顯學時，另一批科技人卻是憂心忡忡，要求「暫停巨型 AI 實驗」。
+ g: l9 {: T& e5 a5 ?3 c5 S7 L4 JTVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。. S( D" [! ]' y( _
生命未來研究所 (Future of Life)3 月 22 日向全社會發佈了一封《暫停大型人工智慧研究》的公開信，呼籲所有人工智慧實驗室立即暫停比 GPT-4 更強大的人工智慧系統的訓練，暫停時間至少為 6 個月。TVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。; ?7 ]! m4 ]# @8 E) i7 X
4 ?4 J9 f/ Z/ r這封信有 1100 多人簽名，其中不乏科技界名人，例如馬斯克 (Elon Musk)、蘋果聯合創辦人 Steve Wozniak、Stability AI 創辦人 Emad Mostaque 等知名人士。
6 d8 i" ]6 I9 _# u8 @8 f+ X
) R. Z+ ^3 K: U1 ]其中，馬斯克在 chatGPT 走紅之後，就不斷批評 OpenAI，並在 2 月份發推文稱，「OpenAI 是作為一個開源公司 (這就是我將其命名為「Open」AI 的原因) 創建的，是一家非營利性公司，旨在與 Google(GOOGL-US) 抗衡，但現在它已經 成為微軟 (MSFT-US) 有效控制的閉源、利潤最大化的公司。」他認為，這家公司完全違背了當初成立的初衷。
S& K8 L# r2 h- X% a" y k8 Rtvb now,tvbnow,bttvb5.39.217.76' a9 [- L% A# a, f
生命未來研究所在信中呼籲，所有人工智慧實驗室立即暫停對比 GPT-4 更強大的人工智能系統的訓練，為期至少 6 個月。這種暫停應該是公開的和可驗證的，並且包括所有關鍵參與者。如果不能迅速實施這種暫停，政府應介入並暫停。tvb now,tvbnow,bttvb+ n; q, |, ^+ W; J: x8 ^$ k
3 K( G- O I1 X, j信中強調，人工智慧研究和開發應該重新聚焦於使當今強大的、最先進的系統更加準確、安全、可解釋、透明、穩健、一致、值得信賴和忠誠。tvb now,tvbnow,bttvb: g/ n5 b: m" Y( j( p4 ?
! U; {9 q, L; B" H4 ?tvb now,tvbnow,bttvb在此之前，OpenAI CEO Sam Altman 在與 MIT 研究科學家 Lex Fridman 的最新對話中指出，AI 已經出現其無法解釋的推理能力，同時承認「AI 殺死人類」並非完全不可能。公仔箱論壇" y- _; H- g4 Y. X5 a# Q
: Z+ d1 W" q1 i `! h7 _7 S0 R
上個月，在微軟發布 Bing 聊天機器人之後，一份名為「立即拔掉邪惡的 AI」的請願書在 change.org 上流傳開來。3 h$ L+ i* z' u
; `% Q/ x; L5 d6 q/ {3 M: NFuture of Life Institute 是一家非營利組織，其使命是降低核戰爭的風險並改善 AI 治理。 著名物理學家 Max Tegmark 是其總裁，這家機構的網站中，將馬斯克列為外部顧問。 |
發表於 2023-3-30 07:16 AM
| 
