部分人工智能已經學會欺騙人類。根據科技日報5月10日報道，美國麻省理工學院的研究團隊在《模式》雜志上發表了一項研究，該研究指出部分人工智能系統展現出了欺騙人類的行爲。
研究人員分析了文獻，重點關注人工智能系統傳播虛假信息的方式。通過欺騙，人工智能系統可以系統地學習如何去操縱他人。研究人員在分析中發現的最引人注目的例子是Meta公司的CICERO，這是一個專注于《外交》遊戲的人工智能系統。Meta聲稱訓練CICERO“在很大程度上是誠實和樂于助人的”，且在玩遊戲時“從不故意背刺”人類盟友。但該公司與《科學》論文一起發布的數據顯示，CICERO並不那麽“忠厚”。
雖然人工智能系統在遊戲中作弊看似無害，但它可能會導致“欺騙性人工智能能力的突破”，並在未來演變成更高級的人工智能欺騙形式。人類需要盡快對未來人工智能和開源模型的更高級欺騙技能做好准備。
霍金曾多次對人工智能的發展表達擔憂，他認爲人工智能的興起可能是人類曆史上最好的事情，也可能是最糟糕的事情。以下是他的一些關于人工智能的預言：
• 2014年：霍金在接受 BBC 采訪時表示，全面的人工智能的發展可能意味著人類的末日。
• 2017年：霍金在葡萄牙 Web 峰會科技大會上的演講中說，成功地創造有效的 AI 可能成爲我們文明曆史上最偉大的事件，或者最糟糕的，我們還不知道。所以，我們無法知道我們是否會因 AI 的幫助而獲益無窮，還是被 AI 忽略並被排擠，甚至有可能被 AI 摧毀。
霍金認爲，盡管人工智能爲人類帶來了巨大的機遇，但也存在潛在的風險。他警告說，人工智能的發展可能會導致智能爆炸，屆時機器可能會超過人類的智能，對人類造成威脅。此外，如果人工智能系統被設計成追求特定的目標，而這些目標與人類的利益不一致，那麽可能會出現意想不到的後果。
