現場體驗聯想AIPC:真端側智能體,表現如何?

極客公園 2024-04-24 23:25:39

4月18日,聯想一年一度的Tech World活動,在上海舉行。

這是聯想第十年舉辦類似的活動。在去年Tech World上,聯想首次提出了AI PC的概念,而今年,發布會的亮點在于聯想推出了中國用戶可購買的一系列AI PC産品。

內置聯想小天個人智能體,新的系列電腦被命名爲“AI元啓”系列。新的系列電腦中,最高端的是YOGA Book 9i系列,是全尺寸雙OLED屏筆記本電腦,售價17999元,而最低端的聯想小新Pro 16,只需要5999元。5月20日正式開售。

聯想表示,此次發布的AI PC,滿足五大特性,是“真正的AI PC。”

作爲五大特性之首,此次發布的AI PC,標志爲配備了AI Agent智能體——聯想小天。

聯想小天可以使用本地模型和算力進行推理回答問題,也可以使用雲端模型和算力進行回答問題。在使用本地算力時,用戶可以將自己本地的文檔進行向量化,變成個人知識庫,讓小天根據個人文檔回答問題,而不涉及文檔泄密的問題。

端側AI是近期消費電子的重點。端側AI有個性化、耗電量低、和隱私向的優勢,但是由于算力和模型大小的限制,能力相對于雲端大模型限制更多。PC上的端側模型相對于手機端的端側模型,發展更快,而聯想在AI PC方面,也是進展最快的廠商之一。那麽此次聯想的AI PC的小天能力如何?

極客公園參與了此次發布會,也在現場測試了聯想的本地AI的智能體效果。

“小天”智能體實測

極客公園在現場實測了聯想AI PC的小天助手回答問題的能力。

目前聯想的小天助手,可以直接在計算機的右下角一欄裏找到。進入界面後,可以選擇使用本地模型回答問題,也可以選擇使用雲端模型回答問題。

現場實測,本地模型基本上也能正確回答問題,但是相對于雲端內容更簡短,適合在網絡環境不佳的場合使用。

回答模型內置知識庫的知識時,時間和網絡模型的延時差不多。

作爲AI PC的重要功能之一,小天可以把敏感文件直接做成本地數據庫,從而能夠輕松總結文檔信息,用自然語言查找回答本地文檔中的信息。記者也現場測試了一下,回答是正確的,但涉及到本地文檔,加載時間要更長一些。

對于在意隱私的用戶,查找本地文件內部信息的功能還是很實用的。

另外,作爲內置在終端的AI,小天可以執行配置查找、簡單的設備任務等語言命令。

聯想的小天助手還可以生成圖片、幫助制作PPT,不過這些功能需要雲端才可以實現。在這點上,小天還有一個很巧妙的設計。利用YOGA Book 9i的雙屏,用戶可以在一個屏幕上畫畫,而在另一個屏幕上,根據畫的畫生成相關的圖片。

在聯想的發布會上,聯想現場讓一個小朋友畫了一幅抽象的企鵝滑雪草圖,但是配上“企鵝滑雪”的文字prompt後,模型最後生成出了相對合理的圖片,贏得了現場的掌聲。

AI PC 進展很快

隨著算力的逐步提升,AI PC這一産品目前進展很快。

在發布會後的訪談中,聯想集團董事長兼CEO楊元慶講到,目前的AI PC産品中,使用的是NPU、CPU、GPU的混合算力。人們通常使用TOPS作爲算力單位,1 TOPS 代表處理器每秒鍾可進行一萬億次(10^12)操作。而此次的産品中,綜合AI算力可以達到200 TOPS,其中NPU 算力可以達到10 TOPS。

不過,AI PC領域整個進境很快。在專門爲AI算力進行優化的NPU方向,下半年聯想接觸到的芯片廠商,都將紛紛推出40-50TOPS的NPU産品,相當于這方面的算力一下子就能翻四到五倍。

算力的提升自然會使未來的AI PC産品有更大的提升。楊元慶提到,目前,受限于算力,AI PC仍然會先在較高端的版本中推出。隨著算力的發展,逐漸擴展到全産品線。不排除之後會推出一些面向消費者的服務,讓購買之前的設備的消費者,能夠升級到AI PC上。

從去年聯想推出AI PC的概念,到今年推出可使用的AI PC産品,聯想本身在AI PC上也動作頻頻。

聯想公司本身不做大模型,核心競爭力在于大模型在終端的優化,“同樣參數的大模型,在誰的平台上能夠跑的好,誰家的開放應用最多,都是技術和本事。”楊元慶講到。

聯想目前端側使用7B的模型。“我們對于模型的優化能力,超過很多芯片廠商本身。”楊元慶講到。

6月,聯想還將發布AI手機和AI平板,也會內嵌大模型和智能體助手。結合AI PC,就可以實現跨端的AI體驗。

值得注意的是,聯想此次的AI PC,首先的産品發布放在了中國。聯想中國區解釋道:“其實很多聯想的業務,都是先在中國區成功後再進行推廣的。”同時他還宣布了一個數字,接下來,聯想中國將有50%的PC産品升級爲AI PC,全年下來,百分之八十九十都將升級爲AI PC。

不過目前看來,此次發布的AI PC,除了查找文檔信息等,應用仍然相對單薄,發布會上重點展示的,還是用AI做PPT的場景。

目前看來,AI PC的主要優勢在于PC本來就應用于辦公場景,端側AI能夠調用本地隱私文件進行操作。在電腦上,除了網速不好等極端場景,人們使用雲端AI相對方便,如何爲AI PC拓展更多優勢場景,似乎是廠商應該進一步思考的問題。

0 阅读:2