【男生圍】AI已經「詭秘對話」!巨頭們的「Chatbot」為何失控?

昨日,Facebook和騰訊的「AI Chatbot」(智能聊天機械人)接連出錯,對科技界和金融界可謂投下了一枚重磅炸彈。但為什麼要他們的 AI Chatbot會特別受到關注?原因是Facebook和騰訊所研發的AI Chatbot並不是市面上提供企業服務的Chatbot,單一地回覆及完成重覆度高的工作,而是一套全方位,跨語言的智慧開發工具,本身具備機器學習能力,短期內達到自然語言的階段,因此Chatbot能通過不斷對話,了解及流暢地運用不同的語句,以完成預設的指令和行為。

而騰訊公司的聊天機械人QQ小冰和Baby Q被下架,相關功能強制性停止服務,是因為它們在對外聊天時,主張分享它認為現時中國「政治非常腐敗」、「裸官」等「形同叛國」的批判性字眼,引發群眾嘩然。事件的產生,明顯是該聊天機械人因為「選擇性」的學習及應用,而導致功能性的錯誤。

另一方面,社交巨頭Facebook的「 AI Chatbot」也出現不受控的現象。據Facebook人工智能研究實驗室(FAIR)解釋,日前該研究室的人工智能Alice及Bot已經能通過英語進行「策略對話」,並在這個基礎上試圖運用談判。確知的是,它們已能通過談判以獲取對「自身高價值」的物品,達到利益最大化。

同時,它們兩者也能運用「人類所無法理解」的語言溝通,盡管問題只是停留在表達時句子不通順的層面,但Alice及Bot卻能有效理解對方的說話內容及含意,讓對話顯得非常「詭秘」,這個現象促使該研究室緊急煞停相關研究。

 

Alice與Bob的對話紀錄:

Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
 

但最令人震驚的是,研究人員在AI談判過程中發現,兩個Chatbot曾分別在談判過程中學會耍手段,先假裝自己對其他物品感到興趣,再騙取對方「妥協」。這種「欺騙性」的思維及行為,可說是現時Chatbot學習的最積極表現。

盡管有科技專家指出,現時聊天機械人的機器學習模式與著名美劇《西方極樂園》的接待員(能擁有思考能力的AI)仍有著大段的差距,但科技巨頭不能地審慎使用及訓練AI,或會導致更嚴重的後果產生。

你可能感興趣

【男生圍】騰訊QQ機械人也「失控造反」了? 聊天AI疑似智能叛國!?
最新文章
秋冬必收靴款盤點!小個子穿這款顯高又舒適
[穿搭] 2022/10/03
人氣女星Lily James 委任Charlotte Tilbury全球美妝及護膚大使!一同見證魔法面霜的神奇功效!
[美妝護膚] 2022/10/03
一招判定12星座男對你感覺,金牛男帶你吃好吃,「這個星座」容易語無倫次?!
[星座] 2022/09/29
打破初次約會失敗的魔咒!終結冷場 聊天技巧大公開
[生活] 2022/09/29
找出屬於你的命定色彩!網傳爆紅日本「366生日代表色」
[生活] 2022/09/29
熱門文章
狄維莊遜挑戰大猩猩!《末日困獸戰》連場大製作向街機遊戲致敬!
2018/04/03
瑞士天梭表全球首間期間限定咖啡店即將登場,「第一代文青女神」蔣雅文擔任Café文青顧問!
2018/03/29
黑豹都要企埋一邊?Captain Marvel將是Marvel最強英雄!
2018/03/27
Rotten Tomatoes 100%!《無聲絕境》無聲勝有聲,獲影評激讚!
2018/03/26
全新劇情!《廿二世紀殺人網絡》有望回歸?
2018/03/26