逾千專家籲暫停訓練強大AI

morris_2007

（星島日報報道）美國億萬富豪馬斯克夥同人工智能（AI）專家（包括兩名圖靈獎得主）、高科技業界高層等逾千人，昨日發表聯署公開信，呼籲全球業界立即暫停訓練比GPT-4更強大的AI系統，為期至少6個月，直至確保它們是安全的。公開信警告強大、先進的AI系統對社會與人類構成潛在風險。

由非牟利組織「生命未來研究所」發表的公開信，已有超過1100人簽署，包括AI聊天機械人ChatGPT開發商OpenAI的初始投資者馬斯克（Elon Musk）、有「電腦界諾貝爾獎」之稱的圖靈獎兩名得主西法基斯（Joseph Sifakis）和本吉奧（Yoshua Bengio）、蘋果公司共同創辦人沃茲尼亞克、AI生成圖片公司Stability AI行政總裁莫斯塔克、Alphabet旗下AI公司DeepMind的研究人員，以及其他著名AI專家與學者、科技界高層等。其中希臘裔電腦科學家西法基斯為2007年圖靈獎得主、加拿大蒙特利爾大學教授本吉奧為2018年圖靈獎得主。

為期至少6個月

公開信題為「暫停巨型AI實驗」，稱已有廣泛的研究顯示，具有與人類競爭智能的AI系統可能對社會和人類構成深遠的風險，「只有當我們確信其影響是積極正面、且風險可控時，才應該開發強大的AI系統。」公開信呼籲未來至少6個月暫停訓練較GPT-4更強大的AI系統，直到此類設計的共享安全規則獲獨立專家訂定、實施和審核。GPT-4是ChatGPT的升級版，由新創公司OpenAI推出。

信中提到，近幾個月AI實驗室陷入一場失控的競賽。公開信說：我們必須問自己，是否應該讓機器以宣傳和謊言，充斥自身的訊息渠道？是否應該自動化所有工作，包括本已令人滿意的工作？是否應該發展並非人類的腦袋，最終它可能比人類更聰明，並取代我們？我們應該冒着失去對自身文明控制的風險嗎？

公開信指，若不能迅速實施暫停訓練，各國政府應介入。據歐盟的登記冊資料，生命未來研究所主要由馬斯克旗下基金會資助，合作出資者還包括倫敦的利他主義組織Founders Pledge及美國矽谷社區基金會。

裁減倫理團隊引起擔憂

自從微軟支持的OpenAI去年底推出ChatGPT之後，競爭者爭相推出類似產品。但當愈來愈多人開始嘗試使用AI產品之際，微軟、亞馬遜和Google等科技巨擘卻裁減了AI倫理團隊，進一步引起了安全擔憂。到本周一，歐洲刑警組織警告，ChatGPT這類先進AI系統，可能被濫用於網絡釣魚、假訊息、網絡犯罪等。生命未來研究所發言人昨日向媒體稱，OpenAI的行政總裁奧爾特曼還沒有在這封信上簽名。有份簽署的紐約大學名譽教授馬庫斯稱，該公開信內容並不完美，「但精神是正確的，大家需要放慢腳步，直到能更好理解後果。」

星島日報