本帖最後由 manyiu 於 2023-4-14 10:57 AM 編輯
5 K5 | S- u. q7 R0 Q! m8 G/ B# k. U6 H* \ h; g9 n
馬斯克等千人簽署 籲暫停巨型AI實驗!
6 n1 r& {' M1 Z3 W. ftvb now,tvbnow,bttvb公仔箱論壇0 N8 f6 t: {1 E( d' C
2023年3月29日週三 & Z/ |7 V* X0 L4 e, [# ^2 `
tvb now,tvbnow,bttvb) Z3 r+ c9 V3 X* p3 C! v0 j
8 ~; e3 F; E: z. \' l- q7 ITVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。馬斯克等千人簽署 籲暫停巨型AI實驗TVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。' V1 i, E& }; y3 W0 G7 I& U
TVBNOW 含有熱門話題，最新最快電視，軟體，遊戲，電影，動漫及日常生活及興趣交流等資訊。+ W) N3 q. ~5 q" B
正當發展 AI 成為最新顯學時，另一批科技人卻是憂心忡忡，要求「暫停巨型 AI 實驗」。
7 G- r, w$ G U+ i# M公仔箱論壇9 W& T* J& l R5 z& D# D @5 Y+ q
生命未來研究所 (Future of Life)3 月 22 日向全社會發佈了一封《暫停大型人工智慧研究》的公開信，呼籲所有人工智慧實驗室立即暫停比 GPT-4 更強大的人工智慧系統的訓練，暫停時間至少為 6 個月。
3 H- B0 e5 h( A4 K( _tvb now,tvbnow,bttvb0 ~. W3 U; Q, L/ K
這封信有 1100 多人簽名，其中不乏科技界名人，例如馬斯克 (Elon Musk)、蘋果聯合創辦人 Steve Wozniak、Stability AI 創辦人 Emad Mostaque 等知名人士。tvb now,tvbnow,bttvb* a8 _2 o9 f; a
. ~+ J Y: j/ X `, N) W
其中，馬斯克在 chatGPT 走紅之後，就不斷批評 OpenAI，並在 2 月份發推文稱，「OpenAI 是作為一個開源公司 (這就是我將其命名為「Open」AI 的原因) 創建的，是一家非營利性公司，旨在與 Google(GOOGL-US) 抗衡，但現在它已經 成為微軟 (MSFT-US) 有效控制的閉源、利潤最大化的公司。」他認為，這家公司完全違背了當初成立的初衷。tvb now,tvbnow,bttvb- B5 c* e- ^9 ?: u
tvb now,tvbnow,bttvb2 }9 c$ {2 A- U# b4 M
生命未來研究所在信中呼籲，所有人工智慧實驗室立即暫停對比 GPT-4 更強大的人工智能系統的訓練，為期至少 6 個月。這種暫停應該是公開的和可驗證的，並且包括所有關鍵參與者。如果不能迅速實施這種暫停，政府應介入並暫停。+ M/ w# H7 X$ l3 R$ x
5.39.217.76! i: L0 L2 }2 h$ e* ]( B
信中強調，人工智慧研究和開發應該重新聚焦於使當今強大的、最先進的系統更加準確、安全、可解釋、透明、穩健、一致、值得信賴和忠誠。
A" f6 U R* V6 q6 H( A* u5.39.217.76: ^4 N' \- g# Q( ^" G% r8 a
在此之前，OpenAI CEO Sam Altman 在與 MIT 研究科學家 Lex Fridman 的最新對話中指出，AI 已經出現其無法解釋的推理能力，同時承認「AI 殺死人類」並非完全不可能。
4 C8 o" u) s7 u3 w4 ^/ i- m3 G& ]公仔箱論壇: `- |: s( g! {( I1 k
上個月，在微軟發布 Bing 聊天機器人之後，一份名為「立即拔掉邪惡的 AI」的請願書在 change.org 上流傳開來。
: t8 Q) c+ m- I# jtvb now,tvbnow,bttvbtvb now,tvbnow,bttvb& b9 l! a9 z0 x4 r
Future of Life Institute 是一家非營利組織，其使命是降低核戰爭的風險並改善 AI 治理。 著名物理學家 Max Tegmark 是其總裁，這家機構的網站中，將馬斯克列為外部顧問。 |
發表於 2023-3-30 07:16 AM
| 
; _( X4 @# }. M% p; Q# ~
公仔箱論壇. I. c3 j5 c$ r; j9 T. b0 U, \