查看: 967|回覆: 0
打印 上一篇 下一篇

AI「自製」語言惹智能叛變驚魂

[複製鏈接]
字體大小: 正常 放大

3萬

主題

12

好友

3萬

積分

公民

跳轉到指定樓層
1#
發表於 2017-8-2 18:41:00 |只看該作者 |倒序瀏覽
社交網絡龍頭Facebook(Fb)積極研究人工智能(AI),開發聊天機械人並教導它們談判。惟近日一份報告顯示,研究人員於實驗中發現機械人竟自行發展「人類無法理解」的語言溝通,團隊事後煞停有關研究。有人猜測是Fb擔心演變成電影《智能叛變》般的可怕劇情,帶來災難後果。但有報道則澄清,事件是技術出錯,導致機械人使用了文句不通的英文,現時技術與真正的AI仍有距離。

美國傳媒報道,Fb人工智能研究實驗室(FAIR)讓兩個分別名叫Alice及Bob的AI聊天機械人,運用英語學習「策略對話」,互相對話以發展談判技巧。在實驗中,兩個機械人會通過談判來瓜分一堆物品,每種物品對雙方而言均有不同價值,機械人會嘗試將利益最大化,並學會減少無謂及含糊的說話,提高效率。

學會耍手段騙取妥協

研究人員稱,AI雖然比人類易捉摸,但它們在過程中竟學會了耍手段,懂得假裝自己很想要某樣物品,然後再假裝自己已作很大的犧牲,騙取對方妥協。但研究人員同時發現,AI在談判過程中為了更方便地溝通,自行發展出一套不符文法的語言,能互相理解,但人類卻難以明白,對話看上去甚為「詭秘」。團隊最終暫停有關研究。

報告於六月出爐,但一直到上周始獲廣泛報道,為各界關注,引起激烈回響及討論。有評論認為AI能暗中溝通而人類不明白,極為危險,令人恐懼。有人亦猜測Fb是否擔心AI會失控,如《智能叛變》或《未來戰士》的情節般作反。

不過,有報道澄清,兩個機械人「語無倫次」,是因為程式編寫員並無鼓勵它們以「人類能理解」的語言溝通。而Fb亦非因恐懼AI叛變而暫停研究,FAIR解釋,研究聊天機械人的目的是能與人類溝通,但Alice及Bob發展出只有它們自己能明白的語言,偏離研究目的,因此才叫停。有科技專家亦指出,聊天機械人的「機器學習」(Machine Learning)模式,與真正能思考的AI仍有距離。

「詭異」對話節錄
Bob
i can i i everything else . . . . . . . . . . . . . .

you i everything else . . . . . . . . . . . . . .

i i can i i i everything else . . . . . . . . . . . .

i . . . . . . . . . . . . . . . . . . .

Alice
balls have zero to me to me to me . . . . . .

balls have a ball to me to me to me . . . . . .

balls have a ball to me to me to me . . . . . .

balls have zero to me to me to me . . . . . .

東方日報
家與國的夢不結束,偏偏一顆心抗拒屈服!
您需要登錄後才可以發表回應 登錄 | 免費註冊

GMT+8, 2024-11-22 17:27

© 2015 SSKYN

回頂部