業界首家!阿裏雲迎來消息隊列ApsaraMQ全系産品Serverless化升級

CSDN 2024-04-02 10:53:53

雲原生時代,消息隊列成爲現代化應用的關鍵組件,也是雲原生架構底層通信的基礎設施。阿裏雲消息隊列發展至今已有十多年曆程。早在 2012 年,RocketMQ 誕生于阿裏內部,用于淘寶交易核心鏈路。曆經多年雙 11 的考驗打磨,2015 年,阿裏雲面向企業客戶提供商業化消息隊列服務。隨後以 RocketMQ 爲基礎,拓展了 Kafka、RabbitMQ、MQTT等商業化産品,用以服務多樣化的客戶場景。

2017 年,RocketMQ 成爲 Apache 頂級開源項目,也成爲了開源消息中間件領域的領導者。2022 年,阿裏雲發布 RocketMQ 5.0,全面擁抱雲原生架構,顯著提升性能體驗。2023 年,阿裏雲消息隊列全面Serverless化,極簡運維、按需計費,進一步增強彈性、降低成本。

爲了給企業和開發者帶來更清晰的産品認知,提升使用體驗,阿裏雲消息産品迎來全新品牌升級——雲消息隊列ApsaraMQ。

3 月 29 日,在“阿裏雲飛天發布時刻-消息隊列全面升級爲 Apsara 發布會"後,CSDN 專訪了阿裏雲資深技術專家林清山與阿裏雲資深産品專家楊秋弟,共同探討隨著 Serverless 時代全面到來,消息産品技術演進方面的路線選擇與實踐經驗。

全行業數字化轉型加速,ApsaraMQ 誕生

數據顯示,全球 IDC 的利用率不超過 30%,企業仍在爲基礎設施付出巨大的成本。楊秋弟在分享中提到,在數字化轉型方面,互聯網企業是先行者,天生就已經擁有了數字化的基因,因此這類企業對于新技術有極高的嗅覺和靈敏度,快速發展業務是必然趨勢。

近幾年,傳統行業對于數字化的成本和效率都有了更高的要求,並且轉型的速度非常快。例如金融行業對于上雲、用雲的需求與發展速度非常高,另外制造業、新能源汽車等領域的企業對于數字化轉型的布局,以及上雲、用雲的加速,也遠超預期。隨著雲原生、Serverless 技術心智的加強,越來越多企業數字化轉型的進程,會像互聯網行業一樣,逐步進入到成熟階段。

正是在這樣的行業背景下,隨著雲原生、Serverless 技術的快速發展,爲了給企業和開發者帶來更清晰的産品認知,提升使用體驗,阿裏雲消息産品迎來全新品牌升級雲消息隊列 ApsaraMQ,涵蓋了業界主流的消息隊列産品:包括 RocketMQ、Kafka、RabbitMQ、MQTT 和 MNS,以精細化的産品定位和功能特性,滿足企業在多元化場景下的消息服務需求。目前,ApsaraMQ 全系列産品,已經成功服務超過 10 萬家企業,廣泛覆蓋超過 20 個垂直行業。

阿裏雲全系列消息産品 Serverless 化,國內唯一

與早期雲計算爲用戶提供彈性的基礎設施不同,Serverless 讓雲計算從一種資源真正變成一種能力。過去雲計算用雲服務器替代了物理服務器,但客戶依舊按“幾核幾 G 服務器”的模式來購買雲資源,未來雲計算將全面 Serverless 化,更加接近“電網”模式,按計算的調用次數付費。因此,全球各個雲廠商都在不斷將産品體系 Serverless 化,新的雲服務或新功能大多數是 Serverless 形態。

Serverless 全托管的出現正在深度影響和改變著應用技術架構。從企業級應用架構,到互聯網分布式架構,服務化、可伸縮、松耦合等理念已經深入人心,但分布式技術的實施複雜度卻不斷攀升。而 Serverless 的自適應、免運維能夠大幅降低複雜度,其高彈性又充分發揮了雲的優勢。隨著各行業對 Serverless 理念逐步接受,應用場景不再局限于輕量級的事件驅動,更多的企業將他們的核心業務運行在 Serverless 架構上。可以說,企業全棧 Serverless 的發展趨勢逐漸明朗。

在 IT 技術架構中,消息服務是重要組成部分,消息隊列契合了 Serverless 事件驅動的編程理念,有助于開發者實現高度可擴展和彈性的應用程序,這也是 Kafka 等消息技術與服務興起的原因。不過,在衆多公有雲廠商提供的消息隊列服務中,多數僅僅是提供了開源消息産品的純托管服務,而阿裏雲的消息隊列是其中少有的全面結合大規模雲計算場景,在開源基礎上深度自研增強的消息服務。

消息中間件作爲分布式架構中的重要組成部分,在全棧 Serverless 化的潮流中,阿裏雲需要比用戶更早看到趨勢的變化,才能滿足客戶的需求。楊秋弟介紹,“以 Serverless 的形式提供消息中間件産品,我們希望給客戶帶來實在的價值,用戶可以按需使用,靈活計費,而非以往雲托管類 IDC 的形式。”

林清山分享表示:“大部分雲廠商提供消息産品,主要是提供預付費的、面向物理資源售賣的托管開源消息隊列實例;在技術實現上,更多的是直接基于開源的消息隊列進行運維自動化和産品化包裝,較少涉及內核自研和技術增強。而 ApsaraMQ 則是深度結合阿裏雲基礎設施的能力,充分利用飛天操作系統的底層能力(如盤古 DFS、對象存儲 OSS 等),進行消息引擎存算分離改造、軟硬結合優化改造,徹底走向 Serverless 架構;在産品形態上則是提供按需彈性、按量付費,面向業務能力售賣的 Serverless 模式。雲計算走向 Serverless,符合計算機技術發展的必然趨勢,那就是池化資源、分時複用,不斷提升算力利用率,同時屏蔽技術細節,讓客戶專注實現業務價值。”

阿裏雲消息隊列 Serverless 架構采用經典的存算分離架構,遵循三層架構設計理念:

第一層 MQ Proxy 采用徹底的無狀態網關架構設計,客戶可以通過靈活的多形態網絡接入,隨機連接一台計算節點可以進行消息收發。在統一存儲引擎的基礎上,面對客戶側實現多協議多領域場景的消息的覆蓋,目前 ApsaraMQ 可支持 MQTT、gRPC、HTTP,AMQP 等多種主流協議。Proxy 同時承載多租戶架構的設計,包括多租戶命名空間權限認證、安全隔離、擴大管理等,以及消息雲服務多個切面的邏輯,包括可觀測、計量計費、審計等等。

第二層消息的存儲引擎,是承載消息基礎存儲實現,包括消息的持久化、哈希索引、時間輪索引、消費者進度維護及高可用切換邏輯,可以面向雲存儲、本地存儲進行統一的存儲抽象。由于采用存算分離架構,消息的存儲引擎也逐漸變成一個無狀態的計算節點,其數據都落地在分布式的文件系統、盤古以及對象存儲上。消息存儲引擎節點通過動態綁定雲存儲上的消息數據分區,對上層 Proxy 提供消息讀寫服務。

底層的共享雲存儲層則是由雲廠商提供的基礎存儲服務。Apsara MQ 使用共享的熱存儲盤古 DFS,提供高性能、高可用、低延遲的存儲能力。同時,消息冷數據可轉存到對象存儲,通過共享的冷存儲 OSS,獲取無限的低成本存儲空間。

ApsaraMQ 始終圍繞 高彈性低成本、更穩定更安全、智能化免運維三大核心方向,做拓展與突破。其中:

高彈性低成本:ApsaraMQ 打造的存算分離架構,提供秒級萬QPS吞吐的彈性能力,彈性實例的成本平均降低 50%;

更穩定更安全:ApsaraMQ 容災能力增強,服務可用SLA最高達到 4 個 9,數據提供了多級存儲,最高達到 12 個 9 的消息可靠性;

智能化免運維:ApsaraMQ 提供全鏈路的健康度智能巡檢,按需自適應彈性,免運維。

産品版圖再+1,雲消息隊列 Confluent 版

將成大數據、業務日志數據通道首選

在 2021 年,阿裏雲與全球消息流領域的領導者 Confluent 公司建立合作關系,在雲市場聯合發布數據流服務。2023 年,合作再次升級,Confluent 成爲阿裏雲戰略合作夥伴。阿裏雲作爲 Confluent 在中國大陸地區的唯一合作雲廠商,雙方聯合打造更全面的 Kafka 消息流解決方案,服務于亞太市場。

雲消息隊列 Confluent 版的發布,將進一步完善了阿裏雲在消息領域的産品布局,將 Confluent 的專業技術和實戰經驗,與阿裏雲強大的基礎設施與服務體系相結合,基于 Apache Kafka 的核心能力,提供更加高效、安全並且兼容性更強的消息流服務。

這次發布的能力,包括 Self-Balancing 等企業級特性;120 多個全托管的 Connector,簡化數據流入流出;支持輕量級 SQL,實時流式消息處理;提供消息領域最完善的數據治理、管理版本和兼容性。

利用雲消息隊列 Confluent 版,企業可以快速構建和擴展與生産集群規模相匹配的企業級 Kafka Confluent 集群。借助 Confluent 版産品服務,爲全球的用戶提供豐富産品選型。此外,雲消息隊列 Confluent 版具有著 Apache Kafka 原廠商業化産品、高 SLA 保障,數據持久化、免運維、易觀測、開箱即用,無縫遷移等優勢,能有效解決企業所面臨的對雲端全托管企業級 Kafka 服務有迫切需求、Kafka 集群搭建及運維複雜性挑戰大的痛點,在人工智能、客戶洞察與體驗優化、事件驅動型微服務應用場景中發揮高效作用。

除了 Confluent 版,ApsaraMQ 産品還集合了市場上廣泛使用的五款主流消息隊列産品,無論是開源遷移上雲,還是新業務構建,在 ApsaraMQ 産品系列中,總能找到一款適合業務場景的可靠的消息中間件。企業可以按業務需求、系統架構、性能要求、以及運維能力隨需選、隨需配,實現真正的提效和提升。ApsaraMQ 將持續構建完整産品矩陣、技術影響力、市場規模領先,希望以雲服務更開放、包容的態度和更多開源、商業公司進行聯合研發,開拓共贏的合作模式。

未來阿裏雲消息團隊會持續走開源標准+自研增強的技術路線,並持續把雲計算、電商場景大規模生産實踐沉澱的消息産品特性、技術增強回饋到 Apache RocketMQ、Apache Kafka 等社區,讓雲計算和開源齊頭並進,協同發展,共建更好的技術生態。

更多 ApsaraMQ 産品能力與特性,歡迎開發者點擊https://www.aliyun.com/page-source/developer/special/apsaramq?utm_content=g_1000392129,查看飛天發布時刻:阿裏雲消息隊列 ApsaraMQ 産品升級發布會”,了解詳細信息。

0 阅读:5

CSDN

簡介:成就一億技術人,成爲技術人交流與成長的家園