Facebook 智能機械人失控自創語言?方保僑:可釀災難

| 柔之拔 | 02-08-2017 05:22 | |

Facebook AI Research Lab (FAIR) 研究員日前在訓練 Bob 與 Alice 兩隻 A.I. 智能機械人談判技巧的時候,發生異變,Bob 與 Alice 疑似自創非人類語言進行對話。據悉這是由於程式員寫漏了對 A.I. 使用正確文法加以獎勵的程式;少了這個獎勵誘因,加上機械人使用「自創語言」溝通會更有效率,因此 Bob 與 Alice 在對話時漸漸偏離了人類語言。然而,訓練兩隻 A.I. 智能機械人的原意,是要讓 A.I. 智能機械人與人類交談,因此「自創語言」無意義,研究員目前已關掉兩隻機械人系統,稍後再作研究。

問題是,原來 A.I. 智能機械人懂得自創語言,自行溝通,而不是偏離人類語言後當機(hang)?這樣會否像電影情節,發生智能叛變?

Facebook 智能機械人 Bob 與 Alice 似在用英語交談(上圖),但其文法不通。

Facebook 機械人是這樣學習談判的(上圖)。

【精選消息】【低頭禁令】美國檀香山懲治低頭族 最高罰款 US$99

【精選消息】【有片慎入】中國的女遊客 泰國吻蛇遭反噬

Machine Learning 是成長過程

香港資訊科技商會榮譽會長方保僑(Francis)表示:「Machine Learning 就如一個嬰兒的成長過程,例如 Siri 語音輸入,最初你要講幾次,讓 Siri 學習辨認你的聲音和意思。」程式語言也在進化,「從前要寫好大堆 code,現在可能一兩個 command 已可執行某個動作。」

可造成冧市

Francis 指出,電腦就是電腦,A.I. 機械人本身沒有 emotion 情感,機械人是經過學習而懂得溝通;如果機械人的某個運算處理器速度,比人類思考還要快,機械人就像擁有智商 190-200,也許懂得重新定義人類語言,並自創更有效率的新語言溝通。

【精選消息】【網絡熱話】火燎森收佣叫人碌爆張卡買 Bitcoin?

他提醒業界在發展 A.I. 智能機械人必須非常小心處理:「A.I. 學習就像一個人的成長過程,有人從旁指導就好;如果落入壞人手裡,就不堪設想。例如大家會依賴 A.I. 處理股票交易市場,A.I. 可以造成大冧市;或者落入恐怖份子手中,教了一隻隻邪惡機械人出來,是大災難!」

Source:ezone.hk, thenextweb, theatlantic, dailymail

相關文章

Page 1 of 21