百度侯震宇：大模型正重構AI基礎設施，爲產業發展帶來新機遇

當下，大模型大潮席捲而來。隨着大模型參數的不斷增長，對基礎設施的要求也在不斷增加，同時也帶來了更多的產業機會。6月19日，在九合創投“十二週年年會”上，百度集團副總裁侯震宇以“大模型重構AI基礎設施”爲主題發表演講。他強調，大模型快速發展對AI基礎設施帶來重構要求，也爲產業發展帶來了新機遇。

侯震宇表示，大模型的快速發展對底層基礎設施帶來了極致高密、極致互聯、極致規模的重構要求。

具體來說，衆多的大模型廠商都在遵循Scaling Law定律，都在不停地用更多的數據在更多算力的基礎設施上訓練出更大的模型。所謂的Scaling Law，簡單說就是模型參數越大，模型效果越好，訓練模型的數據量規模越大，訓練出的模型效果越好。也就是說，要想實現更好的模型效果，需要極致規模的基礎設施。

他同時認爲，光有極致規模的基礎設施還不夠。基礎設施之間還需要有更好、更大的數據交換，這就意味着互聯的帶寬要大、延時要低，要極致互聯。而要想實現極致互聯，就需要在單位面積上有更大的計算密度，也就是極致高密。

“百度智能雲可以提供極致高密、極致互聯、極致規模的AI基礎設施。我們不僅有自研的全新一代智能計算操作系統萬源，還有業界最高效的AI異構算力管理平臺百舸·AI異構計算平臺。它支持萬卡級別超大規模AI計算，訓練吞吐能力較之前提升30%，推理吞吐較之前提升60%，線性加速比和帶寬有效性都超過了95%。”侯震宇說。

在談及AI基礎設施重構帶來的產業發展機遇，侯震宇表示，芯片及服務器密度越來越高，功耗越來越大，這將推動液冷技術的快速發展。而極致互聯給光互聯、光模塊及交換機產業提供了產業升級的機遇，光模塊相關公司的市值也翻了好幾倍。最後，極致規模的基礎設施要求IDC更加高效節能，這將進一步推動光伏發電、風電等產業的發展。

侯震宇還對大模型產業發展趨勢進行了展望。在應用層面，垂直領域的大模型應用已經開始加速。因爲大模型本質上是提效的工具，只有深入行業裡面才能真正發揮它的作用。在多模態層面，多模態正在大幅度改變我們現在的工作，也會讓我們整個的應用場景會變的更加豐富。在價格層面，更加便宜且效果還不錯的模型能夠真的推動大模型的落地，能夠讓整個大模型應用繁榮起來，讓產業真正進入正向循環。