MediaTek攜手阿裏雲在天玑移動平台完成通義千問大模型端側部署

泡泡網官方 2024-03-29 01:01:01

2024年3月28日 —— 今日,MediaTek與阿裏雲宣布達成一項深度合作,旨在將通義千問大模型成功部署于天玑9300移動平台,並確保其兼容性覆蓋至天玑8300移動平台。此次合作的核心目標是實現在離線環境下,依然能夠提供即時、精確的多輪人機對話問答功能,從而推動AI智能體(AI Agent)應用的廣泛發展。

MediaTek無線通信事業部副總經理李彥輯博士對此次合作充滿期待,他表示:“阿裏雲的通義系列大模型在AI領域表現卓越。我們相信,通過雙方的共同努力,將爲應用開發者和終端用戶提供更加強大的軟硬件解決方案。這不僅將促進生成式AI的端側部署,還將加速AI應用和AI智能體生態的發展,爲用戶帶來更加激動人心的AI産品體驗。”

阿裏巴巴通義實驗室業務負責人徐棟也對合作成果表示肯定,他指出:“端側AI是大模型應用落地的關鍵場景,但面臨諸多挑戰。通過與MediaTek的合作,我們克服了軟硬件適配和開發環境的難題,成功實現了大模型在手機芯片中的集成,爲業界樹立了端側AI Model-on-Chip部署的新典範。我們相信,這將激發開發者創造出更多創新和實用的AI應用。”

MediaTek的天玑9300集成了第七代AI處理器APU 790,內置硬件級的生成式AI引擎,支持運行高達330億參數的AI大語言模型,並具備生成式AI模型端側“技能擴充”技術NeuroPilot Fusion。此外,MediaTek的AI開發平台NeuroPilot已經適配了全球主流的AI大模型,並提供了完整的工具鏈,支持NeuroPilot Fusion和LoRA融合技術,大幅提升了大模型的端側處理效率。

通義千問作爲阿裏雲自研的LLM基座大模型,已經推出了多個參數版本的産品,包括千億參數的2.0版本以及開源的多模態大模型。這些模型在多個行業基准評測中取得了優異成績,並在全球高影響力的Hugging Face排行榜上名列前茅。

MediaTek與阿裏雲的合作不僅完成了通義千問大模型在天玑移動平台的端側適配,還將通過開發者生態推動這一成果在端側AI應用中的廣泛應用。MediaTek的模型中心和工具鏈將集成通義千問大模型系列,幫助開發者更便捷地在天玑移動平台上開發各類基于通義大模型的應用。

展望未來,MediaTek和阿裏雲將共同探索AI智能體解決方案,整合雙方的硬件和AI運算能力,以及先進的大模型技術和開發工具平台,支持智能終端在端側高效實現自然語言理解、複雜決策制定和個性化服務生成。這將爲用戶帶來更加智能化的生活方式,同時爲開發者和終端設備廠商開啓更廣闊的創新機遇。

隨著生成式AI的興起,大模型正成爲科技革命和産業變革的重要力量。MediaTek將繼續與阿裏雲通義實驗室合作,加速終端側生成式AI的部署,培育AI應用場景和生態,共同打造面向未來的AI智能體産品體驗,推動AI技術在各行各業的廣泛應用,讓科技更好地服務于大衆生活。

0 阅读:0