昨日，Facebook和騰訊的「AI Chatbot」（智能聊天機械人）接連出錯，對科技界和金融界可謂投下了一枚重磅炸彈。但為什麼要他們的 AI Chatbot會特別受到關注？原因是Facebook和騰訊所研發的AI Chatbot並不是市面上提供企業服務的Chatbot，單一地回覆及完成重覆度高的工作，而是一套全方位，跨語言的智慧開發工具，本身具備機器學習能力，短期內達到自然語言的階段，因此Chatbot能通過不斷對話，了解及流暢地運用不同的語句，以完成預設的指令和行為。

而騰訊公司的聊天機械人QQ小冰和Baby Q被下架，相關功能強制性停止服務，是因為它們在對外聊天時，主張分享它認為現時中國「政治非常腐敗」、「裸官」等「形同叛國」的批判性字眼，引發群眾嘩然。事件的產生，明顯是該聊天機械人因為「選擇性」的學習及應用，而導致功能性的錯誤。

另一方面，社交巨頭Facebook的「 AI Chatbot」也出現不受控的現象。據Facebook人工智能研究實驗室（FAIR）解釋，日前該研究室的人工智能Alice及Bot已經能通過英語進行「策略對話」，並在這個基礎上試圖運用談判。確知的是，它們已能通過談判以獲取對「自身高價值」的物品，達到利益最大化。

同時，它們兩者也能運用「人類所無法理解」的語言溝通，盡管問題只是停留在表達時句子不通順的層面，但Alice及Bot卻能有效理解對方的說話內容及含意，讓對話顯得非常「詭秘」，這個現象促使該研究室緊急煞停相關研究。

Alice與Bob的對話紀錄：

Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
 

但最令人震驚的是，研究人員在AI談判過程中發現，兩個Chatbot曾分別在談判過程中學會耍手段，先假裝自己對其他物品感到興趣，再騙取對方「妥協」。這種「欺騙性」的思維及行為，可說是現時Chatbot學習的最積極表現。

盡管有科技專家指出，現時聊天機械人的機器學習模式與著名美劇《西方極樂園》的接待員（能擁有思考能力的AI）仍有著大段的差距，但科技巨頭不能地審慎使用及訓練AI，或會導致更嚴重的後果產生。