本帖最後由 manyiu 於 2023-4-14 10:57 AM 編輯 tvb now,tvbnow,bttvb5 F* g2 z# o M
: F0 i& T4 q, c$ T; n8 |tvb now,tvbnow,bttvb馬斯克等千人簽署 籲暫停巨型AI實驗!8 u/ r; M/ c! |5 E0 E
' ?2 J" d* {* ]# w+ F' |9 _' m公仔箱論壇2023年3月29日週三
8 |( G$ ~; S5 j4 M' }' V/ L% cTVBNOW 含有熱門話題,最新最快電視,軟體,遊戲,電影,動漫及日常生活及興趣交流等資訊。5.39.217.764 y; f( L0 z2 C- x) P* {
tvb now,tvbnow,bttvb( M& ?* U3 O' G: i2 b+ a# @
馬斯克等千人簽署 籲暫停巨型AI實驗
4 K8 H7 ^7 n# I9 ]* H# u, B$ ^公仔箱論壇3 F/ b4 f; [% ~* D* s) q1 G* d
正當發展 AI 成為最新顯學時,另一批科技人卻是憂心忡忡,要求「暫停巨型 AI 實驗」。6 |/ [( v6 S( j3 U3 V4 f8 h4 [
公仔箱論壇8 S- T3 `! `/ i6 s4 [+ e' G! @" R
生命未來研究所 (Future of Life)3 月 22 日向全社會發佈了一封《暫停大型人工智慧研究》的公開信,呼籲所有人工智慧實驗室立即暫停比 GPT-4 更強大的人工智慧系統的訓練,暫停時間至少為 6 個月。
8 ]7 P }. H: }9 I8 r- W3 wtvb now,tvbnow,bttvb5 N: D! F* T& w3 \
這封信有 1100 多人簽名,其中不乏科技界名人,例如馬斯克 (Elon Musk)、蘋果聯合創辦人 Steve Wozniak、Stability AI 創辦人 Emad Mostaque 等知名人士。
* U% X% @6 U0 g. z公仔箱論壇% m6 ~4 K* o8 o' n% R. A
其中,馬斯克在 chatGPT 走紅之後,就不斷批評 OpenAI,並在 2 月份發推文稱,「OpenAI 是作為一個開源公司 (這就是我將其命名為「Open」AI 的原因) 創建的,是一家非營利性公司,旨在與 Google(GOOGL-US) 抗衡,但現在它已經 成為微軟 (MSFT-US) 有效控制的閉源、利潤最大化的公司。」他認為,這家公司完全違背了當初成立的初衷。
& J% h+ `* m( \7 T2 p
1 ?! X/ m: c5 l- M K- J+ k2 o3 L, R5.39.217.76生命未來研究所在信中呼籲,所有人工智慧實驗室立即暫停對比 GPT-4 更強大的人工智能系統的訓練,為期至少 6 個月。這種暫停應該是公開的和可驗證的,並且包括所有關鍵參與者。如果不能迅速實施這種暫停,政府應介入並暫停。
4 Y; b# | L6 p4 Y$ \TVBNOW 含有熱門話題,最新最快電視,軟體,遊戲,電影,動漫及日常生活及興趣交流等資訊。
0 b3 ^; L, J3 y" p3 h7 |公仔箱論壇信中強調,人工智慧研究和開發應該重新聚焦於使當今強大的、最先進的系統更加準確、安全、可解釋、透明、穩健、一致、值得信賴和忠誠。5.39.217.765 y: S! d( e$ C& d
2 P% Z& n. z$ `- L# f公仔箱論壇在此之前,OpenAI CEO Sam Altman 在與 MIT 研究科學家 Lex Fridman 的最新對話中指出,AI 已經出現其無法解釋的推理能力,同時承認「AI 殺死人類」並非完全不可能。6 L- Z+ t+ j! _0 Q: Y6 O
" j* _8 Z) g0 |7 W& `4 V' ~$ B上個月,在微軟發布 Bing 聊天機器人之後,一份名為「立即拔掉邪惡的 AI」的請願書在 change.org 上流傳開來。
' @" q! V4 n0 j2 K5.39.217.76" @; r2 c, H' r- f! }
Future of Life Institute 是一家非營利組織,其使命是降低核戰爭的風險並改善 AI 治理。 著名物理學家 Max Tegmark 是其總裁,這家機構的網站中,將馬斯克列為外部顧問。 |