微軟推出輕量級AI模型Phi-3-mini:性能與GPT-3.5相當,成本更低

安康符一靜兒 2024-04-25 22:53:54

近日,微軟推出了一款輕量級AI模型Phi-3-mini,引起了業界的廣泛關注。據微軟聲稱,這款AI模型的性能與GPT-3.5等模型相當,同時適合在手機上本地使用。更重要的是,該款模型的成本要低廉許多,這意味著它可以通過成本優勢吸引更廣泛的客戶群。那麽,這款輕量級AI模型究竟有何特點?它的推出將對AI行業産生怎樣的影響?本文將對此進行深入分析。

首先,我們來了解一下Phi-3-mini的基本情況。Phi-3-mini是微軟計劃發布的三款小型語言模型(SLM)中的第一款。其可測量參數爲38億個,相較于微軟研究院于2023年底發布的Phi-2模型(具備27億個可測量參數),性能有所提升。微軟表示,Phi-3 mini的響應速度接近比它大10倍的模型。在大規模多任務語言理解(MMLU)測試中,Phi-3 mini獲得了69%的評分,在Multi-turn(MT)基准測試中獲得了8.38的評分。

盡管Phi-3 mini具有與LLM相媲美的能力,但微軟也承認,該模型在執行某些任務時,從根本上受到容量的限制。例如,該模型不具備存儲太多事實知識的能力。不過,微軟斷言這種弱點可以通過搜索引擎的增強來解決。

微軟負責生成式AI研究的副總裁Sassabastien Bubeck強調:“Phi-3不只是稍微便宜一點,而是便宜得多。與具有類似功能的其他模型相比,他們的成本相差10倍。”這意味著,對于那些資源有限的公司來說,Phi-3 mini將是一個非常有吸引力的選擇。

小語言模型旨在執行更簡單的任務,這意味著它更適配于那些資源有限的公司。微軟表示,Phi-3-mini將即刻在微軟雲服務平台Azure的人工智能模型目錄、機器學習模型平台hugs Face和用于在本地機器上運行模型的框架Ollama上提供。此外,Phi-3-mini還將可以在英偉達的軟件工具Nvidia Inference Microservices (NIM)上使用,並且還針對其圖形處理單元(GPU)進行了優化。

從以上信息來看,微軟推出的這款輕量級AI模型Phi-3-mini具有以下幾個顯著特點:

高性能:盡管Phi-3-mini的可測量參數僅爲38億個,但其性能卻可以與GPT-3.5等大型模型相媲美,這得益于微軟在模型設計和優化方面的技術積累。

低成本:與其他具有類似功能的大型模型相比,Phi-3-mini的成本要低得多。這將使得更多的企業和個人用戶能夠負擔得起AI技術的應用,從而推動AI技術的普及和發展。

適用性廣泛:由于Phi-3-mini旨在執行更簡單的任務,因此它更適合那些資源有限的公司使用。這將有助于推動AI技術在各個行業的應用,提高行業的整體效率。

多平台支持:Phi-3-mini將在多個平台上提供,包括微軟自家的雲服務平台Azure以及英偉達的軟件工具NIM等。這將有助于擴大Phi-3-mini的應用範圍,提高其市場競爭力。

綜上所述,微軟推出的輕量級AI模型Phi-3-mini憑借其高性能、低成本、廣泛適用性和多平台支持等特點,有望在AI行業中占據一席之地。隨著AI技術的不斷發展和普及,我們有理由相信,Phi-3-mini將爲AI行業帶來更多的創新和突破。

0 阅读:0

安康符一靜兒

簡介:分享美好生活的每一天