AI基礎設施公司「基流科技」連續完成Pre A+和A輪融資,累計融資總額超億元 | 36氪首發
文 | 王方玉
編輯 | 蘇建勳
36氪獲悉,清華系算力網絡與算力建維服務商「基流科技」近期完成Pre A+和A輪融資,由招商局創投、華泰創新、星連資本、國方創新聯合投資,老股東卓源亞洲、光速光合跟投,募集資金將主要用於產品研發、市場推廣和日常運營。
基流科技的歷史投資方包括了多家戰投與國資基金,累計融資總額超億元。
基流科技成立於2023年2月,源自清華大學網絡安全實驗室,公司攻克AI基礎設施的分佈式計算通信難題,在高速組網、集合通信、並行框架、管控調度等方面形成了一系列關鍵技術。
自成立以來,基流科技已實現從百卡、千卡到萬卡,從集羣組網、調優到集羣運維的升級。
截至目前,公司已支持十餘個智算集羣落地,累計建設調優集羣的FP16算力超過40EFLOPs。公司已服務包括智譜AI、商湯科技、數據中心、運營商、地方國企在內的多個頭部用戶。
作爲推動人工智能發展的三大要素之一,算力是人工智能的“發動機”和核心驅動力,也成爲繼水、電、氣、路、網之後的新型基礎設施。
今年9月發佈的《中國綜合算力指數報告(2024)》指出,過去20年間,我國智能算力需求增長了百億倍,而隨着AI、具身智能等產業的快速發展,我國智算規模還將進一步急劇增長。一萬張及以上的加速卡組成的“萬卡集羣”也將越來越多。
越是規模大的算力集羣,網絡通信和GPU組件故障的概率越高,快速打造大規模且穩定的算力集羣,同時又做到高性價比,是一項全球共同面對的挑戰。而這正是基流科技要實現的目標。
正如互聯網時代的巨頭思科主要解決互聯網擴展和連接問題,算力網絡服務商角色就相當於大模型時代的思科。算力網絡具有重要戰略意義,近期英偉達因收購高性能網絡公司邁絡思被市場監管總局展開反壟斷調查,GPU的專用網絡互聯設備和高速以太網網卡需要打破封鎖。
“人工智能對算力的需求和傳統IT有很大差別,因此需要重新設計網絡架構,相關技術還處於初期階段,在分佈式計算框架、硬件設備甚至芯片方面還有很大的想象空間。” 基流科技創始人胡效赫對36氪表示。
目前國內有萬卡以上大規模集羣建維技術能力的團隊很少,行業內也普遍缺乏算力集羣落地經驗與標準。而基流科技是國內極少數擁有萬卡集羣落地經驗的AI基礎設施廠商,經歷了國內算力規模從千卡到萬卡功能的升級。
團隊方面,創始人胡效赫是清華大學博士、博士後,加州伯克利大學訪問學者,在高性能網絡和高性能計算方向做了十餘年研究,其在創業前就已經落地了全國首個運營商級Tbps可編程網絡產品。團隊成員則源自清華、北大、北郵、北航等一線高校,阿里、美團、中興等互聯網和設備廠商,其中多名成員有超過二十年產研經驗。
得益於賽道的爆發式增長,基流科技也在快速成長當中。據瞭解,2023年公司確認收入數千萬元,2024年預計收入將超億元。
產品方面,基流科技目前主要有三部分,算力調度優化平臺、算力建設運維平臺和高速互聯硬件。除了整套算力集羣建設解決方案外,公司在集羣管理、計算框架和高速網絡三個層次上都進行了產品化並有逐步落地,並儘可能地提高交付效率、GPU利用率和集羣穩定性。
胡效赫告訴36氪,目前基流科技的算力集羣方案在生產環境中可以爲GPU集羣提升超10%的性能,幫助客戶在千卡落地中節省成本上千萬元,在萬卡落地中節省數億元。
對於更大規模的十萬卡集羣建設,胡效赫坦言“國內還沒人知道十萬卡該怎麼構建以及如何使用,還需要繼續探索。” 而基流科技團隊已經開始投入十萬卡仿真和未來架構設計的項目研發。
此外,高速算力互聯硬件的國產化也已經在進行中。
胡效赫表示,算力網絡的核心組件網卡、線纜、交換機,預計在2025年將實現端到端的國產化,通過軟硬件聯合設計的方法,優化算法、工藝與供應鏈,以系統帶動芯片發展,實現硬件開放生態,軟件自主可控。
“隨着人工智能產業快速發展,未來一到兩年,國內一定會產生十萬卡集羣。在戰略層面上,這是一個優質供給和需求匹配的過程。”胡效赫表示,基流科技將繼續發力超大規模集羣的組網、調優和維護,爲服務國家大戰略做出貢獻。