查看: 388|回覆: 0
打印 上一篇 下一篇

逾千專家籲暫停訓練強大AI

[複製鏈接]
字體大小: 正常 放大

3萬

主題

12

好友

3萬

積分

公民

跳轉到指定樓層
1#
發表於 2023-3-31 00:16:21 |只看該作者 |倒序瀏覽
(星島日報報道)美國億萬富豪馬斯克夥同人工智能(AI)專家(包括兩名圖靈獎得主)、高科技業界高層等逾千人,昨日發表聯署公開信,呼籲全球業界立即暫停訓練比GPT-4更強大的AI系統,為期至少6個月,直至確保它們是安全的。公開信警告強大、先進的AI系統對社會與人類構成潛在風險。

由非牟利組織「生命未來研究所」發表的公開信,已有超過1100人簽署,包括AI聊天機械人ChatGPT開發商OpenAI的初始投資者馬斯克(Elon Musk)、有「電腦界諾貝爾獎」之稱的圖靈獎兩名得主西法基斯(Joseph Sifakis)和本吉奧(Yoshua Bengio)、蘋果公司共同創辦人沃茲尼亞克、AI生成圖片公司Stability AI行政總裁莫斯塔克、Alphabet旗下AI公司DeepMind的研究人員,以及其他著名AI專家與學者、科技界高層等。其中希臘裔電腦科學家西法基斯為2007年圖靈獎得主、加拿大蒙特利爾大學教授本吉奧為2018年圖靈獎得主。

為期至少6個月

公開信題為「暫停巨型AI實驗」,稱已有廣泛的研究顯示,具有與人類競爭智能的AI系統可能對社會和人類構成深遠的風險,「只有當我們確信其影響是積極正面、且風險可控時,才應該開發強大的AI系統。」公開信呼籲未來至少6個月暫停訓練較GPT-4更強大的AI系統,直到此類設計的共享安全規則獲獨立專家訂定、實施和審核。GPT-4是ChatGPT的升級版,由新創公司OpenAI推出。

信中提到,近幾個月AI實驗室陷入一場失控的競賽。公開信說:我們必須問自己,是否應該讓機器以宣傳和謊言,充斥自身的訊息渠道?是否應該自動化所有工作,包括本已令人滿意的工作?是否應該發展並非人類的腦袋,最終它可能比人類更聰明,並取代我們?我們應該冒着失去對自身文明控制的風險嗎?

公開信指,若不能迅速實施暫停訓練,各國政府應介入。據歐盟的登記冊資料,生命未來研究所主要由馬斯克旗下基金會資助,合作出資者還包括倫敦的利他主義組織Founders Pledge及美國矽谷社區基金會。

裁減倫理團隊引起擔憂

自從微軟支持的OpenAI去年底推出ChatGPT之後,競爭者爭相推出類似產品。但當愈來愈多人開始嘗試使用AI產品之際,微軟、亞馬遜和Google等科技巨擘卻裁減了AI倫理團隊,進一步引起了安全擔憂。到本周一,歐洲刑警組織警告,ChatGPT這類先進AI系統,可能被濫用於網絡釣魚、假訊息、網絡犯罪等。生命未來研究所發言人昨日向媒體稱,OpenAI的行政總裁奧爾特曼還沒有在這封信上簽名。有份簽署的紐約大學名譽教授馬庫斯稱,該公開信內容並不完美,「但精神是正確的,大家需要放慢腳步,直到能更好理解後果。」

星島日報


標簽
AI
ChatGPT
家與國的夢不結束,偏偏一顆心抗拒屈服!
您需要登錄後才可以發表回應 登錄 | 免費註冊

GMT+8, 2024-11-22 17:34

© 2015 SSKYN

回頂部