如何從百模中智選生成式AI工具?

CSDN 2024-02-23 15:59:02

當前,生成式 AI 應用的落地已經從原本激烈的“百模大戰”階段演進到少數優秀模型嶄露頭角的時刻。這一過程伴隨著工具鏈的不斷多元化,同時也伴隨著企業領導者的認真探索,進而找到適合生成式 AI 的實際應用場景。他們提出了許多關鍵問題,包括對基礎模型的適用性疑慮,對定制化適應特定領域需求的思考,以及如何在構建原生 AI 應用的同時創新 IT 架構。

此外,企業還需要明確如何准確度量引入生成式 AI 所帶來的實際價值,以便爲未來的決策提供有力支持。企業和領導者們正在積極尋求方式以最好地利用這一新興技術的潛力。

基于這一背景,亞馬遜雲科技特地舉辦了亞馬遜雲科技生成式 AI 構建者大會,大會于10月24日下午圓滿結束。在本次大會中,衆行業大咖和技術專家們深度聚焦生成式 AI 前沿技術,就生成式 AI 的熱點技術話題和熱門應用場景展開了深入分享與交流,爲開發者們解讀了當下應如何應對生成式 AI 帶來的機遇,在 AI 時代保持強有力的競爭力。

加速大數據與 AI 普惠

亞馬遜雲科技助力企業構建者釋放生成式 AI 潛力

大會開場,亞馬遜雲科技大中華區産品部總經理陳曉建在以“賦能生成式 AI 新時代,助力數據與 AI 普惠化”爲題的主題演講中指出,生成式 AI 現已成爲各行業各組織商業領導者的首要關注點。整個生成式 AI 的應用就像是浮在海面上的冰山,人們常提到的基礎模型只是我們能看到的冰山一角,而在冰川底部,同樣需要大量的基礎模型以外的服務來支撐,如加速芯片、數據庫、數據治理、應用集成等。

亞馬遜雲科技爲用戶提供完整的端到端的生成式 AI 技術堆棧。從底層的加速層如加速芯片、存儲優化,到中間層模型構建工具和服務,再到最上層的生成式 AI 相關應用,每一層都在針對客戶的不同需求持續創新。

作爲雲計算領域的領導者和創新者,生成式 AI 一直是亞馬遜雲科技關注和投入的主要方向。推動生成式 AI 普惠化,助力更多企業和個人開發者加速創新是亞馬遜雲科技的使命之一。

在實踐中,亞馬遜雲科技注意到,生成式 AI 的典型應用場景給企業帶來的業務價值主要體現在三個方面:增強客戶體驗,提升員工生産力與創造力,優化業務流程。基于此,亞馬遜雲科技助力企業和開發者從典型場景入手創新業務模式,快速構建高性價比的生成式 AI 應用,以打造差異化競爭優勢,加速業務敏捷創新。

爲讓客戶能夠輕松、安全地按需選擇基礎模型,亞馬遜雲科技此前還推出了Amazon Bedrock和Amazon SageMaker JumpStart兩款服務。Amazon Bedrock 是企業使用基礎模型構建和擴展生成式 AI 應用程序的最簡單方法,它提供廣泛的模型選擇、數據隱私,並且能夠自定義模型,無需管理任何基礎設施。通過 Amazon Bedrock,用戶可輕松地將組織數據用作戰略資産,使用自定義基礎模型並打造更加差異化的優勢。此外,Amazon Bedrock 還充分考慮到了用戶的安全性和隱私保護,幫助客戶保護敏感數據。

相較于Amazon Bedrock,Amazon SageMaker Jumpstart 則提供了更靈活、更定制化的模型微調。用戶可以從 SageMaker Jumpstart 中選擇開源的基礎模型,然後根據自身需求選擇不同方式,進一步確定微調框架,利用分布式訓練實現微調,從而更好地評估微調效果。

金山辦公:Amazon Bedrock 助力 WPS

加速生成式 AI 應用的構建

在主題分享中,來自金山辦公軟件股份有限公司的 AI 研發總監劉強向大家分享了金山辦公如何利用生成式 AI 和 Amazon Bedrock 幫助企業簡化從統一數據到個性化客戶體驗的過程。

劉強提到,今年起,WPS 開始將大語言模型的能力全面引入産品,致力于開發新一代辦公軟件。而在構建生成式 AI 應用的過程中,基礎模型性能有限,數據隱私與安全難以保障,高額管理成本等現實情況成爲了擺在金山辦公面前的重重障礙。作爲 Amazon Bedrock 的第一批試用用戶,金山辦公第一時間與 Amazon Bedrock 展開了對接與測試。

Amazon Bedrock 中支持的領先大語言模型在多個文字處理場景中符合金山辦公的需求。除多種模型選擇外,Amazon Bedrock 還在數據安全層面給金山辦公提供了充分的支持,極大地提高了金山辦公的內部開發效率,助力金山辦公進一步革新辦公體驗。

高性價比的基礎設施是生成式 AI 應用構建的關鍵。在接下來的分享中,陳曉建提到,十多年來,亞馬遜雲科技一直與合作夥伴致力于投資自研芯片,以便爲用戶提供廣泛的高性能、低成本的機器學習基礎設施選項,助力客戶加速實現生成式 AI 落地。

此外,亞馬遜雲科技近日還宣布了 Amazon EC2 Inf2 實例的正式上市。該實例由最新的亞馬遜雲科技設計的機器學習芯片 Inferentia2 提供支持。與其他類似的 EC2 實例相比,Inf2 實例在推理性價比上要高出 40%,Trn1 實例在訓練成本上的節省更是高達 50%。基于此,亞馬遜雲科技爲深度學習訓練和推理提供了高性能且具有顯著成本節省的實例。

在數據戰略層面,從存儲、查詢和分析數據,到通過商業智能、機器學習和生成式 AI 使數據發揮作用,亞馬遜雲科技提供廣泛的工具組支持整個端到端的數據流程。多年來,亞馬遜雲科技通過深化服務之間的集成,已經在 Zero ETL 中取得了一定成果,這些亞馬遜雲科技各項服務之間的深度的數據集成正在幫助企業執行分析和機器學習,且無需移動數據。

在數據爆炸的現狀下,數據治理對于企業來說至關重要。Amazon DataZone 全新的數據治理服務可支持整個企業集團組織的數據發現、管理跨部門的訪問和使用生命周期。通過統一的數據目錄和明確的數據主權分工,企業內數據使用者能輕松地發現有效數據,同時數據的提供者可以嚴格的管理數據的可見和訪問授權,做到僅允許正確的人訪問到正確的數據。這一能力對于今天的企業需要負責任的構建生成式 AI,嚴苛的保護企業數據並正確的發揮企業私有數據的價值尤其重要。

西門子:以生成式 AI 之力重塑數據價值,推進業務創新

來自西門子集團 IT 數據分析與人工智能負責人李朝明在主題分享中向大家分享了西門子如何攜手亞馬遜雲科技發揮企業數據價值,通過 AI 與數據能力的全面能力提升來構建基于生成式 AI 的企業知識聊天機器人。

他提出,當前生成式 AI 的發展給各行各業帶來了革命性的變化。在西門子推動生成式 AI 落地的過程中,西門子 IT DA 團隊與亞馬遜雲科技有著長期而深入的合作。面對西門子中國 IT 面對的企業內部信息分散、數據信息傳遞能力不足、知識運營能力缺乏等業務難題,亞馬遜雲科技攜手打造了西門子中國業務知識一體化解決方案“小禹”,大大提高了西門子內部團隊的生産力和創新效率。

生成式AI 的出現,給傳統雲原生應用開發架構提出了新的機遇與挑戰,借助雲原生的服務,聚焦以微服務化,事件驅動架構爲核心的設計框架 Serverless 優先,以數據洞察爲核心,安全與數據的合規與保護、借助 DevOps 等現代應用治理理念構建高效敏捷的構建者文化等,加速由雲原生到 AI 原生應用的構建與創新。

亞馬遜雲科技預見到,編程將是生成式 AI 技術得到快速應用的領域之一。亞馬遜雲科技提供的Amazon CodeWhisperer是一款人工智能編碼夥伴,可在基礎模型高級選項中使用,實時生成代碼建議,從根本上提高開發人員的生産力。《2023 AI 開發者生態報告》還指出,當前,Amazon CodeWhisperer 在國內 AI 編程工具領域處于領先地位,且是國內用戶增速最快的 AI 編程工具。

科思創中國:借助 Amazon CodeWhisperer 實現開發效率顯著提升

來自科思創中國雲開發運維團隊負責人俞宙在主題分享中向大家分享了他們如何基于 Amazon CodeWhisperer 提升代碼開發效率,加速生成式 AI 應用程序構建。

科思創中國在日常開發中有兩個核心任務:項目框架搭建和存量代碼優化。而在實踐中過程中,重複性、機械化的範式生成、慣用算法引用和企業級 API 接口定制是科思創中國面臨的主要挑戰。在 Amazon CodeWhisperer 的加持下,科思創中國的日常代碼開發效率和開源代碼應用追蹤器的准確性顯著提高,在構建雲原生産品應用的過程中起到了重要作用。

在接下來的分享中,陳曉建還特別提到,一直以來,亞馬遜雲科技在不斷幫助中國開發者群體快速創新。今年以來,亞馬遜雲科技爲初創公司推出了亞馬遜雲科技創業加速器。今年9月,亞馬遜雲科技聯合了北京市教育委員會指導,北京科學教育發展基金會、清華大學人工智能研究院基礎模型研究中心,以及面壁智能、智譜 AI、百川智能等客戶及合作夥伴,共同發布了“首屆中國生成式 AI 創新應用挑戰賽”。如今,開發者的努力和激情正在改變這個世界,不斷地拓展著技術的邊界,亞馬遜雲科技將持續爲構建者賦能,繼續攜手合作夥伴與初創圈,擴大生成式 AI 的“朋友圈”,進一步助力生成式 AI 的廣泛落地。

高峰論壇共話實戰經驗

行業大咖共看生成式 AI 當下與未來

在以“共話生成式 AI 的現在和未來”爲題的圓桌討論環節,Lepton AI CEO 賈揚清、百川智能聯合創始人 COO 茹立雲、愛詩科技 CEO 王長虎、亞馬遜雲科技大中華區産品部總經理陳曉建、亞馬遜雲科技大中華區初創生態及投資業務發展總監胡瑛圍繞開發者在生成式 AI 應用落地新階段所面臨的機遇和挑戰展開了深度討論。

在交流與分享中,行業大咖們就怎樣選擇基礎模型,如何構建生成式 AI 時代的數據策略,如何借助雲原生加速構建 AI Native 應用和加速生成式 AI 應用構建與落地有哪些開發工具,給廣大開發者們提出了寶貴建議。

分論壇解讀生成式 AI 應用秘籍

亞馬遜雲科技助力打造生成式 AI 應用最佳實踐

開發生成式 AI 應用是一個充滿挑戰的系統工程,並不是單純的産品和服務拼接,因此,如何加速客戶最終應用的商業化落地,除了本身的資源以外,亞馬遜雲科技同樣需要構建強大的合作夥伴“朋友圈”,攜手助力解決生成式 AI 應用構建中的各種技術問題,加速應用落地。

針對構建生成式 AI 應用端到端的關鍵路徑,爲了更加詳細的闡述亞馬遜雲科技如何助力構建者釋放生成式 AI 潛力的方法論,分論壇分別圍繞 “基礎模型優先”-重構生成式 AI 時代的應用基座”,打造生成式 AI 時代的數據戰略,基于雲原生服務快速 AI 原生的應用等熱點話題,邀請來自亞馬遜雲科技的技術專家,攜手客戶和合作夥伴代表,做了豐富而全面的分享,從理論到實踐給構建者快速,安全,高效的開發生成式 AI 應以啓迪。

在“開發者論壇”中,亞馬遜雲科技邀請到了知名的業界專家爲大家講解和分享。一起看看他們有哪些經驗和心得!

開發者論壇-助力開發者在生成式 AI 時代創新構建

在 1024 這個開發者專屬的節日,大會還設置了開發者論壇,邀請業內開發者大咖及專家分享生成式 AI 最新的開發技術,工具及落地實踐。開源 AI 算法工程師、bilibili 知名科技 UP 主張子豪 (@同濟子豪兄)爲大家帶來了《個人開發者玩轉生成式 AI 的 N 種方法》。亞馬遜雲科技資深開發者布道師鄭宇彬分享了生成式 AI 面向開發者的關鍵技術——Amazon CodeWhisperer。

亞馬遜雲科技資深開發者布道師黃浩文分享了高效開發基于大模型的生成式 AI 應用實踐。Zilliz 合夥人和技術總監,LF AI &Data 基金會技術咨詢委員栾小凡介紹了 AIGC 時代的新基建——向量數據庫及其應用場景。ApeCloud 聯合創始人 & CTO蔡松露分享了如何在 K8S 上玩轉⽣成式 AI。NebulaGraph 首席開發者布道師古思爲向大家詳細地介紹了基于圖的知識結構在 RAG 領域突破更多挑戰。

動手訓練營—生成式AI時代開發的速度與激情

我們同步爲開發者准備了動手實驗的環節,包括Amazon DeepRacer強化學習及自動駕駛模型實戰,實時AI編程助手Amazon CodeWhisperper實戰,Amazon Bedrock初體驗,基于大預言模型構建智能對話機器人。

亞馬遜雲科技提供了完整的端到端的生成式 AI 技術堆棧,從底層的加速芯片,存儲優化,到中間層模型構建工具和服務,再到最上層的生成式 AI 相關應用。推動生成式 AI 普惠化,助力更多企業和個人開發者加速創新是亞馬遜雲科技的使命之一。亞馬遜雲科技願一直與企業構建者和個人開發者們攜手共進,引領人工智能的未來。

0 阅读:0

CSDN

簡介:成就一億技術人,成爲技術人交流與成長的家園