日耗電超50萬度,大模型“吃電”誇張,馬斯克曾預言……

科技墨鏡挨著戴 2024-03-11 20:45:00

據報道,OpenAI的熱門聊天機器人ChatGPT每天可能要消耗超過50萬千瓦時的電力,以響應用戶的約2億個請求。相比之下,美國家庭平均每天使用約29千瓦時電力,也就是說,ChatGPT每天用電量是家庭用電量的1.7萬多倍。

如果生成式AI被進一步采用,耗電量可能會更多。荷蘭國家銀行數據科學家亞曆克斯.德弗裏斯在一篇論文中估計,到2027年,整個人工智能行業每年將消耗85至134太瓦時(1太瓦時=10億千瓦時)的電力。

隨著人工智能技術發展,市場對芯片的需求激增,帶動電力需求的激增。相關數據顯示,十年前全球數據中心市場的耗電量爲100億瓦,而如今1000億瓦的水平已十分常見。據美國Uptime Institute的預測,到2025年,人工智能業務在全球數據中心用電量中的占比將從2%猛增到10%。

生成式AI帶來的種種創新,都是以處理性能和功耗方面的高昂成本爲代價。馬斯克曾預計,未來兩年內將由“缺硅”變爲“缺電”,而這可能阻礙人工智能的發展。在他看來,電力短缺可能會造成嚴重後果,就像最近缺芯阻礙科技和汽車行業一樣。

以人工智能爲代表的生成式大模型的繁榮將爲智算中心的建設帶來更快發展。而高算力往往也伴隨著高能耗,據統計,2022年全國數據中心總耗電量約2700億千瓦時,占全社會用電量的3.1%,超過兩座三峽水電站年發電量。

據媒體2023年9月8日報道,浪潮信息服務器産品線總經理趙帥對記者表示,如今數據中心節能降碳面臨“多重挑戰”:從能耗構成看,數據中心總能耗包括IT設備能耗和制冷、配電等系統的能耗,其中,制冷系統用電量已與IT設備相當,占總用電量高達43%。因此,優化制冷系統成爲數據中心提高能源效率的重要環節。

其次,算力供給的核心是IT設備,但就其容量而言,IT設備的利用率通常十分低。例如,服務器的利用率往往只有5%到15%,處理器爲10%到20%,存儲設備爲20%到40%,網絡設備的利用率爲60%到80%。然而,當設備閑置時,其仍會消耗在最大利用率下消耗的大部分功率,一台標准服務器即使不工作也要消耗30%到40%的最大功率。如何最大程度減少IT設備空閑,讓閑置的算力跑起來至關重要。

除了耗電外,大模型還很耗水。

AI模型旺盛的算力需求要求與之匹配的散熱能力,這帶來了龐大的耗水量。面對水資源的加碼消耗,微軟表示計劃于2030年實現正水排放。

據媒體報道,微軟支持的OpenAI技術需要耗費大量水用于冷卻超級計算機,幫助其AI學習如何模仿人類書寫。除了建造冷卻塔,服務器運行需要大量電力,而火電、天然氣和核能發電也會消耗大量水。

微軟在其環境報告中透露,2022年,公司用水量同比去年激增了34%,較前幾年大幅上漲,相當于超過2500個奧林匹克規格的遊泳池水量,外部研究人員認爲這與微軟的人工智能研究有關。谷歌發布的2023年環境報告同樣顯示,其2022年消耗的水量高達212億升,其中有約196億升的水用于數據中心。

微軟去年曾在聲明中表示,它正在投資關于測量人工智能的能源和碳足迹的相關研究,並“研究如何使大型系統在訓練和應用中更加高效”。此外,該聲明還表示:“我們將繼續監控我們的排放量,加快進度,同時多使用清潔能源爲數據中心供電,購買可再生能源,並做出其他努力,以實現我們的可持續發展目標,即到2030年實現負碳排放、正水排放和零浪費。”

0 阅读:0
评论列表
  • 2024-03-12 05:07

    全世界這麽多人用,我們卻不能用,why?

  • 2024-03-11 23:10

    AI的盡頭都是能源——光伏和儲能,到最後還是我們搶占先機啊。

  • Co
    2024-03-12 06:17

    ai的盡頭是能源,能源的盡頭是中國價廉物美的光伏發電

  • 2024-03-12 07:12

    你拿一個公司和一個家庭比?

  • 2024-03-12 05:13

    我們的電力企業的發展前景已經出現了……

  • 2024-03-12 10:23

    這是美股要收網了嗎?配合英偉達下跌看

  • 2024-03-12 12:16

    馬斯克是想要源代碼吧

  • 2024-03-12 19:51

    生成式AI帶來的種種創新,都是以處理性能和功耗方面的高昂成本爲代價。馬斯克曾預計,未來兩年內將由“缺硅”變爲“缺電”,而這可能阻礙人工智能的發展。在他看來,電力短缺可能會造成嚴重後果,就像最近缺芯阻礙科技和汽車行業一樣

  • 2024-03-12 05:43

    都沒漲多少,風險就小的多,風格比較穩。

科技墨鏡挨著戴

簡介:感謝大家的關注