Red Hat宣佈收購Neural Magic　AI戰力再提升

▲Red Hat宣佈收購Neural Magic。（圖／Red Hat提供）

記者高兆麟／綜合報導

原始碼軟體解決方案供應商 Red Hat 近日宣佈已簽署收購 Neural Magic 的最終協議，Neural Magic 爲提供能加速生成式 AI 推論工作負載的軟體與演算法領導業者，其在推論效能工程的專業技術及對開源的承諾與 Red Hat 的願景一致，致力於在跨混合雲環境中的任何一處皆能實現高效能 AI 工作負載，並滿足客戶特殊的應用情境和資料。 儘管生成式 AI 的前景在當今科技領域中已佔據主導地位，然支撐其系統的大型語言模型（LLM）規模仍持續擴大。因此，爲建置具成本效益且可靠的 LLM 服務，企業需要大量的運算資源、能源，以及專業的營運技能。多數企業因上述挑戰而難以享受到客製化、部署就緒且更具安全性的 AI 所帶來的優勢。 Red Hat 期望能借由 vLLM 的開源創新賦能更多企業更易於使用生成式 AI，從而應對其面臨的挑戰。vLLM 是由加州大學柏克萊分校開發、由社羣驅動的開源專案，專注於開放模型服務（即生成式 AI 模型如何推論與解決問題），支援所有主要模型系列、先進的推論加速研究及多種硬體後端，包含 AMD GPU、AWS Neuron、Google TPU、Intel Gaudi、NVIDIA GPU 和 x86 CPU。結合 Neural Magic 在 vLLM 專案中的領導地位與 Red Hat 強大的混合雲 AI 技術產品組合，將爲企業提供一條開放的途徑，打造能滿足獨特需求的 AI 策略，無論資料位於何處皆可實現。 Red Hat 總裁暨執行長 Matt Hicks 表示：「無論企業的資料位於跨混合雲中的任何位置，AI 工作負載皆必須能正常運行。因此，靈活、標準化且開放的平臺和工具成爲必然，賦能企業得以選擇最符合其營運和資料需求的環境、資源和架構。很高興能透過 Neural Magic 突破性的 AI 創新完善我們專注於混合雲的 AI 產品組合，驅使我們不僅做爲開源的『Red Hat』，也成爲 AI 領域的『Red Hat』。」 Neural Magic 執行長 Brian Stevens 說明：「業界已一次次證明開源能透過社羣協作的力量推動創新。Neural Magic 匯聚了業界頂尖的 AI 效能工程專家，專注於打造開放、跨平臺且超高效的 LLM 運行能力。加入 Red Hat 不僅是企業文化的契合，更將協助各規模的企業加速 AI 轉型之旅。」 IBM Research 資深副總裁暨院長 Dario Gil 表示：「隨着客戶積極尋求在跨混合環境中擴展 AI，基於開放基礎的虛擬化和雲端原生 LLM 將成爲業界標準。結合 Red Hat 在開源領域中的領導地位、IBM Granite 高效的開源模型，以及 Neural Magic 跨平臺的 AI 擴展解決方案，將賦能企業於內部部署 AI 所需的控制力與彈性。」

Neural Magic 於 2018 年自麻省理工學院（MIT）獨立，旨在開發高效能的深度學習（deep learning）推論軟體。Neural Magic 的技術和效能工程專業加上 Red Hat 的 AI 技術產品組合，將驅動 Red Hat 加速實現 AI 未來願景。

Red Hat 將藉由 Neural Magic 在 vLLM 技術的領導地位，強化支援 LLM 部署的 AI 能力，賦能跨混合雲環境中隨時隨處部署，並提供現成、高度優化且開放的推論技術堆疊。