阿裏雲百煉平台全面升級,支持企業級RAG,首家托管百川等大模型

邁步看大勢 2024-05-11 10:54:36

5月9日,在北京阿裏雲AI智領者峰會上,阿裏雲CTO周靖人公布百煉大模型平台最新進展。百煉平台從模型開發、應用開發到算力底座全面升級,更加易用、更加開放,引入更多模型,還率先兼容LlamaIndex等開源框架,企業可自由替換能力組件來適配自身系統。針對當下企業最關注的RAG鏈路,百煉提供靈活開放的企業級檢索增強服務,5到10行代碼即可搭建RAG應用,讓大模型擁有“最強外挂”。

2023年10月,阿裏雲發布了百煉大模型平台,開發者可通過“拖拉拽”5分鍾開發一款大模型應用,幾小時“煉”出一個專屬模型,把精力專注于應用創新。本次大會上,百煉升級成爲阿裏雲承載雲+AI能力的重要平台,提供一站式、全托管的大模型定制與應用服務。升級後,百煉可以更好支持地大型企業和成熟開發者的需求。

“當下企業應用大模型存在三種範式:一是對大模型開箱即用,二是對大模型進行微調和持續訓練,三是基于模型開發應用,其中最典型的需求是RAG,以企業數據對大模型進行知識增強。圍繞這些需求,百煉打造了模型中心和應用中心,提供最豐富的模型和最易用的工具箱。”周靖人介紹。

對希望直接調用模型進行推理的企業,百煉集成了上百款大模型api,除了通義、Llama、ChatGLM等系列,還首家托管百川等系列三方模型,覆蓋國內外主流廠商,聯動魔搭開源社區,同時支持企業上架通用或行業模型,給開發者提供足夠多的模型選擇。同時,百煉依托阿裏雲AI基礎設施,支持千億級模型的萬級並發推理,充分滿足企業需求。

對需進一步訓練模型的用戶,百煉提供從數據管理、模型調優、評測到部署的全鏈路模型服務,用戶可彈性按需調用算力,無需關心底層架構。訓練過程可視化,還可自動評測模型質量,並與其他模型對比。

對希望打造RAG應用的企業,百煉支持Assistant API開發模式,可在百煉上輕松創建知識庫,並一鍵開啓知識檢索增強(RAG),通過Assistant API聯合輸出。同時,百煉支持agent智能體開發,並能實現多智能體協作、對話記憶等高級功能。

阿裏雲百煉的一大重要優勢,在于最大程度的開放性和自由度。當下一些大模型應用平台采用封閉鏈路,不支持替換原子能力,導致企業開發應用時無法引入自研插件,和業務場景充分融合。

百煉率先兼容並優化了LlamaIndex等開源架構,擁抱社區生態,支持從本地或不同雲端導入SQL、pdf、excel、ppt等各種類型數據源,還支持根據需求自由替換精細的能力組件,讓AI應用絲滑嵌入企業原有業務系統。

周靖人表示,接下來,百煉將繼續做對開發者最友好、最開放的大模型平台。阿裏雲歡迎更多大模型上架,百煉將進一步支持三方模型的微調訓練和雲上專屬部署,幫助大模型生態中的企業提供商業化服務。

據了解,阿裏雲百煉發布半年來,已服務一汽、微博、完美世界、朗新集團、央視網、藍淩科技等衆多企業。例如,一汽紅旗在百煉上調用通義千問和大模型分析能力打造了專屬BI智能體,管理人員可隨時讓大模型生成銷售額圖表,並分析相關情況。

0 阅读:0

邁步看大勢

簡介:感謝大家的關注