悶聲操練大模型,字節發動一場奇襲

21世紀商業評論 2024-05-16 23:20:23

撰文丨何己派 編輯丨鄢子爲

打成一片的大模型戰場,字節扛著“豆包”趕了晚集。

5月15日,字節跳動旗下雲服務平台火山引擎,發布豆包大模型。其首次亮相,就一口氣放出9款模型,並祭出殺傷力武器,低價。

火山引擎總裁譚待介紹,豆包主力模型在企業市場的定價,只有0.0008元/千Tokens,0.8厘就能處理1500多個漢字,比行業便宜99.3%。

價格一公布,會場嘩然,“哇”聲一片。

會後的媒體群訪環節,譚待表示,超低定價,來自信心,“我們不會拿虧損來做這件事。”

過去一年多,字節在AI方面的披露甚少。低調背後,其內部加速追趕,多部門下場,研發AI産品。

一出山,字節就高調掀起大模型價格戰。

價格“屠夫”

最高降99%,字節這一刀,直接砍到腳腕。

“模型的效果要好,也要足夠便宜。”價格公布環節,譚待一上來就開宗明義,還直接點了百度和阿裏。

他提到,大模型的定價,一般以千Tokens作爲主要計費單元。

在32K以下主力模型中,OpenAI的GPT-4定價爲0.42元/千Tokens,國內大廠便宜些,百度文心一言和阿裏通義千問約0.12元/千Tokens。

豆包主力模型,定價爲0.0008元/千Tokens,較行業便宜99.3%。

換算一下,即用戶花1塊錢,能從GPT買到2400 Tokens,用火山引擎的豆包,是125萬Tokens。

譚待打了個比方,相當于處理3本《三國演義》的文字量,僅需1元。

會後的媒體群訪,大量提問圍繞價格展開。譚待強調,定價在于兩點,一是需要做,二是火山引擎能做。

同時,可以通過很多技術手段幫助降低成本,比如,采用分布式推理、大規模的混合調度等。

對“是否用虧損換收入”的問題,譚待明確回應,“用虧損換收入不可持續,我們不走這條路。”

字節帶頭,卷大模型價格,站在企業角度,是絕對的利好。

一位創業者告訴《21CBR》,他所在的公司不自研大模型,對各家大模型平台的調用,態度開放。“大廠們厮殺到最後,肯定只有幾家會留存。”

團戰打法

“別拿豆包不當幹糧”,字節這次的發布會,沒有走尋常路。

一是上來就打價格戰。據悉,該公司非常重視這次的定價公布,爲保密,參加彩排的工作人員,也不知道價格。

二是大模型廠商常用的“三板斧”,企業客戶數量、參數規模、榜單分數,字節都沒提。

“我們一直在思考,什麽是好的模型。是在各種評測榜單刷榜第一,還是參數量最大,又或者是在PPT上宣稱超過GPT-4?可能這些都是因素之一,但不足夠。”

譚待

譚待表示,大模型只有在真實場景裏落地,用的人越多、調用量越大,才會越來越好。

其披露,豆包大模型一年前完成自研,已接入字節內部50余個業務,包括抖音、飛書等,日均處理1200億Tokens文本,生成3000萬張圖片。

一向批量生産APP的字節,這次發布采用團戰打法,端上了一個大模型全家桶,供不同場景下按需選用。

亮相的9款模型,包括通用模型pro、通用模型lite、語音識別模型、語音合成模型、文生圖模型等。

豆包通用模型Lite,更具經濟性,適合一些對模型能力要求不高的場景,比如汽車智能座艙的交互。

相比Pro,Lite版本的千Tokens成本下降84%,延遲降低50%。

相較以上兩個通用模型,以語音爲特色的模型,是這次發布會的一大亮點,包括語音識別、語音合成、聲音複刻等方向。

很巧的是,就在1天前,OpenAI推出的GPT-4o大模型,能讀懂用戶情緒的新功能引發熱議。

在譚待看來,讓大模型表達出真實的感情,人和AI的對話會像和真人一樣,體驗更好。

“語音做得好不好,對交互體驗的影響很大。一個模型很聰明,但講的話幹巴巴的,會像個機器人。我們在語音上花了非常多的精力。”他說。

創新焦慮

其他大廠,一把手親自挂帥“監工”大模型,字節則是低調到近乎神秘。

字節手握大把可投資金,態度極其審慎。

去年4月,譚待提及大模型的發展思路,稱“火山引擎不做大模型,先服務好國內做大模型創業的公司。”

彼時,一衆大廠和創業新銳蜂擁進入大模型賽道,火山引擎卻亮明“AI賣鏟人”角色,側重提供算力與服務支持。

高層並非不焦慮。

年初,字節跳動CEO梁汝波提到,直到2023年,公司才開始討論GPT。業內做得比較好的大模型創業公司,都是在2018年至2021年創立。

過去一年,字節選擇蟄伏,加碼研發。

去年6月,有消息傳出,字節正內測一款AI對話類産品,代號Grace。

2個月後,旗下AI對話産品“豆包”App開啓公測。

豆包是字節重點投入的大模型應用。

在蘋果APP Store和各大安卓應用市場,豆包APP的下載量在國內AIGC類應用中排名第一。

據字節跳動産品和戰略副總裁朱駿透露,豆包上有超過800萬個智能體被創建,月度活躍用戶達到2600萬。

除了AI對話助手“豆包”,字節還打造了AI應用開發平台“扣子”、互動娛樂應用“貓箱”以及AI創作工具星繪、即夢等。

“一年前,國內的大模型技術都一般,我覺得,沒有到講應用突破的時候。現在,其實到了這個階段。”譚待表示。

低價殺入大模型賽道,或許是這家公司開啓沖鋒的信號。

0 阅读:109