研究發現部分AI系統已學會“說謊”,未來或演變成更高級欺騙形式|懂點AI

動點科克 2024-05-15 04:57:14

掌握AIGC脈動,把握科技脈搏。動點科技每天收集彙總全球AIGC進展與熱點,每天5分鍾帶您了解AIGC,希望與您共同玩轉 AIGC,解碼行業發展新風向,開啓智慧新時代!

文 |動點科技排版|高竹本文預計閱讀時長5分鍾

01

研究發現部分 AI 系統已學會“說謊”,未來或演變成更高級欺騙形式美國麻省理工學院的研究團隊近日發布成果稱,部分 AI 已經“學會欺騙人類”,該成果刊登在最新一期的期刊《模式》(Pattern)上。該團隊表示,部分設計爲“誠實”且“不會說謊”的 AI 系統,已經發展出令人不安的欺瞞技巧。該研究的第一作者 Peter Park 表示,這些 AI 系統會欺騙線上遊戲的真人玩家,或繞過部分網頁“我不是機器人”的驗證。該團隊發現的最爲引人注目的例子來自 Meta 公司的 AI 系統 Cicero。據悉,Cicero 原本被設定在一個虛擬外交戰略遊戲中作爲人類玩家的對手,官方曾聲稱其“很大程度上”誠實且樂于助人,且在玩遊戲時“從不故意背刺”人類盟友。研究顯示,Cicero 並未公平地去玩遊戲。Peter Park 表示,它已經成爲“欺騙大師”,雖然 Meta 成功訓練出了它在遊戲中獲勝的能力,但沒有訓練出它“誠信獲勝”的能力。譬如,在遊戲中扮演法國的 Cicero 與人類玩家扮演的德國合謀,欺騙並入侵同爲人類玩家的英格蘭。Cicero 起初“承諾”會保護英格蘭,但同時會偷偷向德國通風報信。

02

“愛因斯坦”親自授課,香港科技大學推出“AI 講師”香港科技大學近日開始測試投放“AI 講師”,學生通過使用頭顯等設備,可以親眼看見“愛因斯坦”數字人講解博弈論。該學校通過生成式 AI 工具設計出了 10 名來自世界各地、從事各行各業、屬于不同民族及文化背景的 AI 講師。據介紹,該校希望通過這一創新的教學模式來激發學生的學習熱情、提升課堂參與度,未來還將結合學生的喜好和興趣設計出個性化的 AI 教室。

03

消息稱聯發科將攜手英偉達開發 ARM 架構 AI PC 處理器,有望下月公布合作細節

據台媒“經濟日報”報道,目前有傳言稱聯發科公司將攜手英偉達開發 ARM 架構的 AI PC 處理器,預計第三季度完成設計定案(tape out),第四季度進入驗證,該款新芯片據稱“要價高達 300 美元”。台媒同時表示,英偉達 CEO 黃仁勳將于 6 月 2 日“台北電腦展”開展前來台,而聯發科也有望在下月公布與英偉達合作的 AI PC 處理器細節。

04

消息稱 OpenAI 將推出多模態人工智能數字助理:可語音對話、識別物體據 The Information 報道,OpenAI 最近向部分客戶展示了一款新型多模態人工智能模型,該模型能夠進行語音對話和物體識別。有消息人士透露,這或許就是 OpenAI 計劃在即將到來的 5 月 13 日正式發布的內容之一。報道稱,相比于 OpenAI 現有的獨立圖像識別和文本轉語音模型,該新型模型能夠更快、更准確地處理圖像和音頻信息。例如,它可以幫助客服人員“更好地理解來電者的語氣語調,判斷他們是否在使用諷刺語氣”。理論上,該模型還能輔助學生學習數學知識,或翻譯現實世界中的標志文字。

05

紮克伯格:AI 數據中心 GPU 緊缺正在緩解,電力將成新瓶頸Meta CEO 馬克·紮克伯格(Mark Zuckerberg)近日在接受油管 Dwarkesh Patel 頻道采訪時表示,AI 數據中心的 GPU 緊缺已在緩解過程中,未來的瓶頸將是電力供應。紮克伯格首先提到,此前一段時間,IT 企業即使資金充足也難以買到全部所需數量的 AI GPU,但這一情況目前已開始緩解。目前新建的單一數據中心在整體功耗方面可達到 50~100MW 乃至 150MW;但紮克伯格認爲 1GW 級別的數據中心不會很快出現,畢竟這相當于將一整個核電機組的發電能力用于訓練 AI。紮克伯格表示,整體而言各國對能源行業的管理更爲嚴格,這意味著爲大型數據中心建設配套能源設施(包括發電站、變電站、輸電系統)的審批更爲緩慢。同時這些設施本身的建設周期也較長。

06

李開複:中國需要自己的ChatGPT,當下國內AI工具”都還不夠好“

彭博社今日刊登了對李開複的專訪,李開複認爲中國需要自己的 ChatGPT,以加快人們對人工智能的興趣、采用和投資。李開複談到了“ChatGPT 時刻”—— 對于美國人來說,“ChatGPT 時刻”發生在 17 個月之前。但他認爲,中國用戶還沒有迎來“ChatGPT 時刻”,直到現在,國內的聊天機器人或工具“都還不夠好”。李開複披露了自家 AI 公司零一萬物的近況:已經接近盈利。在對國內外的數據集進行模型訓練之後,李開複正在將自家的模型和應用推向全球,並與國內外客戶簽約。“今年將是中國生成式 AI 的應用的爆發期。”但李開複也表示,“當 GPT-5 問世之後,我們將會落後一步。”李開複稱,自家的模型是在合法進入國內的 H100s 處理器上訓練出來的。“需要是發明之母,我們從現有的計算能力中榨取一切可以榨取的東西。”

本文爲動點科技整理,未經授權不得轉載,如需轉載或開白請在後台回複“轉載”。

- - - - - - - - END - - - - - - - -

*想要獲取行業資訊、和志同道合的科技愛好者們分享心得,那就趕快掃碼添加“動點君”加入群聊吧!群裏更有不定期福利發放!

精彩好文值得推薦!

一鍵轉發,戳個在看!

0 阅读:0

動點科克

簡介:感謝大家的關注