將大模型部署在芯片上,阿裏雲如何以端雲協同重塑AI手機新體驗?

電科技 2024-04-04 01:40:23

在這個智能手機幾乎成爲人體延伸的時代,一場靜悄悄的革命正在悄然發生——AI(人工智能)技術的飛速進步開始重新定義我們與手機的互動方式。

IDC(國際數據公司)預測,未來幾年將會有一個顯著的轉折點:2024年,全球AI智能手機的出貨量將達到1.7億部,而到了2027年,僅中國市場的AI手機出貨量就將達到1.5億部。顯而易見,AI不再是遙不可及的未來技術,而是已融入我們生活的現實力量。

面對繁榮的市場,全球的手機制造商都已經開始行動了起來,摁下了AI大模型研發競賽的快進鍵,手機成爲了AI落地的第一戰場。

挑戰也隨之接踵而來。

如何構建AI手機?過去的做法是將大模型部署在雲端,完全依靠雲端算力運行,但這樣的方式往往難以滿足用戶即時響應和高度個性化的需求。

事實上,這一技術演進背後所隱藏的挑戰還包括如何在資源有限的手機上運行越發複雜的AI模型,以及如何解決網絡延遲和數據同步等問題。

尋找一份完備的解決方案成爲了通信行業的當下共識。

在這一關鍵時刻。阿裏雲與聯發科近日聯合宣布了端雲協同技術,成功將“通義千問”大模型在部署在SoC上,首次實現了在手機芯片端對大模型的深度適配。

這一創新不僅保證了即便在斷網的情況下,用戶依然能享受到順暢的AI服務,更預示著在端雲協同技術的推動下,AI智能手機的用戶體驗躍進到“自由王國”,即AI隨時隨地皆可使用,滿足用戶在複雜場景下對AI功能的需求。

創新的背後,凝結了阿裏雲與聯發科在模型瘦身、工具鏈優化、推理加速等多個方面的深度合作成果,跨越了從底層芯片到上層操作系統及應用開發的多重挑戰,展現了軟硬件一體化深度適配的巨大潛力。

這場端側AI技術的探索,不僅開辟了Model on Chip(芯片上模型)商業化落地的新航道,更爲全球手機廠商提供了新的解決方案,預示著智能手機行業即將邁入一個全新的AI時代。

新趨勢——Model on Chip

將龐大的人工智能大模型優化並部署到手機處理器上,克服傳統上手機對雲端算力的依賴,這項創新不僅使得如自然語言處理、圖像識別等高級AI功能能在手機上得以直接運行,還顯著提升了執行效率,同時在用戶體驗和數據隱私保護方面實現了質的飛躍。

通義實驗室業務負責人徐棟對此指出:“端側AI作爲大模型應用落地的關鍵,面臨軟硬件適配和開發環境不足等挑戰。阿裏雲與聯發科的合作成功克服了這些難題,通過底層硬件到上層應用的全面技術攻關,將大模型有效部署至手機芯片,引領了端側AI在Model on Chip部署的新趨勢。”

據了解,“通義千問”18億參數的開源大模型超越了以往模型,在性能和資源使用效率上取得了顯著進步,僅使用1.8G內存就能處理高達2048個token的推理,展現了其低成本、易部署及對商業化極爲友好的特性。

觀察人士認爲,這項技術的創新打破了以往的局限,讓大模型深度適配手機芯片成爲了可能。究其背後的技術原理,阿裏雲的將其落地的産品化思維功不可沒。

首先,在進入小小的手機之前,大模型需要“瘦身”。通過量化、參數剪枝和知識蒸餾等多種技術手段減小模型體積。

量化是將模型的浮點數參數轉化爲更高效的低位寬整數形式,減少存儲和計算資源的需求;參數剪枝則是通過移除非核心參數來縮減模型規模;知識蒸餾是利用一個小型但高效的模型模仿複雜大模型的行爲,既能實現模型的輕量化,又能保持其性能。

其次,量化後的模型雖然體積縮小,但可能會出現性能損失。所以還需要各種優化精心調整,進一步提升模型性能,確保其在手機上的高效運行。

最後,經過優化後的大模型,還需要進一步提升其潛能,逐步增強模型能力,更好地適應終端應用的具體需求。

阿裏雲的這項端雲協同技術,因爲融合了雲計算與邊緣計算的優勢,相較于傳統方法,帶來了低延遲、 隱私保護、離線能力、節省帶寬和實時處理這五大優勢。對于自動駕駛、智能制造等未來應用場景來說,這一技術顯得至關重要。

端雲協同重塑手機AI

可以預見的是,端雲協同技術已經徹底改變了AI手機的計算效率。例如,智能語音助手能夠快速處理簡單請求,如天氣查詢,而複雜任務則依托雲端的強大算力完成,從而提供高效、靈活的用戶體驗。

在隱私保護方面,端雲協同技術通過在設備端處理敏感數據,大幅提升了數據安全性和隱私性。比如,在健康監測應用中,個人健康數據會首先在本地被加密處理,只有必要的信息才會被安全傳輸至雲端,有效降低了泄露風險。

根據最新數據預測,伴隨著端側AI模型和硬件技術的不斷進步,預計到2024年,AI智能手機的市場種類和數量將迎來顯著增長。市場滲透率預計將達到6.4%,並有望在2025年實現翻倍,增至19%。

這一趨勢在2024年的移動世界大會上得到了明顯體現,榮耀、OPPO、vivo等手機品牌紛紛展示了他們的最新AI手機,突出了AI技術在提升用戶體驗上的諸多應用。而隨著阿裏雲端雲協同技術的下放,智能手機市場的競爭格局必然會因此産生重大變革——誰能拒絕一款能在本地運行AI大模型的手機呢?

與此同時,端雲協同技術也爲手機應用的創新提供了強大的動力和廣闊的平台。開發者能夠借助這一技術開發出更多創新型應用,滿足用戶的個性化需求,從而加速推動手機應用市場的活力和生態繁榮。

結語

這場由端雲協同技術驅動的變革,不僅預示著手機性能和應用將邁入一個前所未有的新紀元,也象征著人類與AI深度的融合又進了一步。由此,我們也站在了全新的技術發展高速路上,目睹著手機從傳統的通訊、娛樂工具,逐步演變爲集AI智慧于一身的全能夥伴,可以預見的是,隨著與AI技術的進一步融合,手機的未來,也將變革出無限的可能。

0 阅读:74