本帖最後由 manyiu 於 2023-4-14 10:57 AM 編輯
" h/ A* s* h6 b! o5 K/ {7 z公仔箱論壇: o) f6 G e. ~! r; q6 C4 E& ~; s
馬斯克等千人簽署 籲暫停巨型AI實驗!0 }. I% l( t+ y) X1 |8 c
# z! g# u5 n& J% b2023年3月29日週三 tvb now,tvbnow,bttvb1 M- y6 A7 P( l5 j+ {6 o+ i
0 e& Y7 I+ M3 o" i5 Ktvb now,tvbnow,bttvb
. e/ V; d8 K8 l3 S! N9 K馬斯克等千人簽署 籲暫停巨型AI實驗
7 w2 @2 m7 a0 W9 M- |, n0 u
: g2 Q( y# s3 g6 s- h; ^: x1 F7 J正當發展 AI 成為最新顯學時，另一批科技人卻是憂心忡忡，要求「暫停巨型 AI 實驗」。
9 s) m+ R4 m& C- z" P, wtvb now,tvbnow,bttvb
* t5 ]+ c/ P$ y8 \公仔箱論壇生命未來研究所 (Future of Life)3 月 22 日向全社會發佈了一封《暫停大型人工智慧研究》的公開信，呼籲所有人工智慧實驗室立即暫停比 GPT-4 更強大的人工智慧系統的訓練，暫停時間至少為 6 個月。. q; l2 P8 Z7 }5 u& h
; Y) _" y" y e% D公仔箱論壇這封信有 1100 多人簽名，其中不乏科技界名人，例如馬斯克 (Elon Musk)、蘋果聯合創辦人 Steve Wozniak、Stability AI 創辦人 Emad Mostaque 等知名人士。5.39.217.76' \) x [$ X* u ?6 X
$ }. T$ ^7 Z8 `* {5 E: F5 O8 g
其中，馬斯克在 chatGPT 走紅之後，就不斷批評 OpenAI，並在 2 月份發推文稱，「OpenAI 是作為一個開源公司 (這就是我將其命名為「Open」AI 的原因) 創建的，是一家非營利性公司，旨在與 Google(GOOGL-US) 抗衡，但現在它已經 成為微軟 (MSFT-US) 有效控制的閉源、利潤最大化的公司。」他認為，這家公司完全違背了當初成立的初衷。tvb now,tvbnow,bttvb* f4 F, T8 J. b2 ~, q5 K
5.39.217.76' _4 Y$ G1 u0 U2 e$ T
生命未來研究所在信中呼籲，所有人工智慧實驗室立即暫停對比 GPT-4 更強大的人工智能系統的訓練，為期至少 6 個月。這種暫停應該是公開的和可驗證的，並且包括所有關鍵參與者。如果不能迅速實施這種暫停，政府應介入並暫停。
8 j% z7 z6 a4 V4 P `3 z& c8 J& |公仔箱論壇公仔箱論壇7 E, t. [. _1 ^0 C
信中強調，人工智慧研究和開發應該重新聚焦於使當今強大的、最先進的系統更加準確、安全、可解釋、透明、穩健、一致、值得信賴和忠誠。
. E0 \3 ?2 Q. i1 e5 L7 f
3 o" y' g8 C8 F, S yTVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。在此之前，OpenAI CEO Sam Altman 在與 MIT 研究科學家 Lex Fridman 的最新對話中指出，AI 已經出現其無法解釋的推理能力，同時承認「AI 殺死人類」並非完全不可能。tvb now,tvbnow,bttvb, s( w$ }+ M- P# v" `
3 {/ j1 V! y: z- D, a公仔箱論壇上個月，在微軟發布 Bing 聊天機器人之後，一份名為「立即拔掉邪惡的 AI」的請願書在 change.org 上流傳開來。tvb now,tvbnow,bttvb* v" A5 G& y0 q4 Z
tvb now,tvbnow,bttvb* n) Y* |7 Z4 Y
Future of Life Institute 是一家非營利組織，其使命是降低核戰爭的風險並改善 AI 治理。 著名物理學家 Max Tegmark 是其總裁，這家機構的網站中，將馬斯克列為外部顧問。 |
發表於 2023-3-30 07:16 AM
| 
公仔箱論壇+ v u' M/ N% C/ [
