騰訊公佈最新AI原生雲產品：更快的雲底座，更強的大模型｜甲子光年
已覆蓋超400家互聯網企業，服務超過12萬家互聯網客戶。
作者｜王藝
大模型的光榮與夢想已經日漸遠去，但市場對AI原生應用的呼喚還沒有停止。
作爲技術的基礎架構，大模型並不創造直接收益，同時市場也難以承載過多的大模型產品。在很多專業人士看來，大模型最終的格局是市場最終有一兩款大模型產品會成爲主力產品和底層操作系統，其他模型則作爲輔助零散地分佈在長尾市場中。
與大模型不同，AI原生應用的熱度關注度則常年居高不下。ChatGPT的月活一直在2億左右徘徊，Perplexity、Character.ai等產品也常年保持着高增長。
AI時代呼喚AI原生應用，也對“AI原生雲”提出了新的要求。如今，雲+AI基礎設施已成爲企業智能化轉型的關鍵支撐，生成式AI在帶來生產力的提升和更加百花齊放應用的同時，也給雲服務提出了更高的要求：一個能承載更廣泛參與者、支持多模態、支持大規模模型訓練和高效能集羣調度、能進行全域數據檢索和本地部署、降低開發門檻、具有內容質量控制和安全保障能力的雲亟待出現。
9月6日，2024騰訊全球數字生態大會互聯網AI應用專場正式舉辦。專場以“從數字化原住民，到智能化先鋒派”爲主題，SaaS、文娛、社交等賽道的先鋒企業齊聚一堂，分享用雲最佳實踐，以及AI在影音、營銷、電商、招聘等多個領域的創新應用經驗。會上，騰訊雲還公佈了最新的AI原生雲產品服務。
騰訊雲副總裁許華彬在開場致辭中表示：“RAG結合企業自有知識，無需企業花費較多人力和算力，以及對大模型SFT精調，是當前企業級AI應用落地的成熟方案。近期來多行業場景的AI Agent蓬勃發展，面向Ｃ端的原生應用，以及B端企業級業務流程自動化，將成爲後續應用落地的主要方式。雲計算是夯實基礎的重要底座，雲原生技術助力企業實現敏捷開發，以新技術、新市場的創新，實現增長突破。”
騰訊雲副總裁 許華彬
1.以AI大模型爲“基座”，驅動業務創新發展
隨着大模型深入應用於各行各業，各行業對大模型的要求也更爲精細。騰訊混元大模型算法負責人康戰輝在演講中提到，算力更強、效果更好、應用成本更低的大模型才符合當下需求。
相比前代模型，最新發布的旗艦大模型“混元Turbo”性能有顯著提升，訓練效率提升108%，推理效率提升100%，推理成本降低50%，解碼速度提升20%，效果在多個基準測試上對標GPT-4o，第三方測評居國內第一。
混元Turbo大模型在SuperCLUE評測集的表現，圖片來源：騰訊混元
除支持通用大模型能力外，騰訊混元Turbo也支持角色扮演、FunctionCall、代碼生成和AI聯網搜索等領域能力。目前，騰訊混元在騰訊雲上提供了多種尺寸的模型服務，通過API、專屬模型、精調模型等接入和使用方式面向企業及個人開發者全量開放。
騰訊機器學習平臺總監、混元大模型算法負責人 康戰輝
金蝶中國副總裁、研發平臺總經理李帆介紹了金蝶Cosmic一體化企業級AI解決方案等與騰訊雲的系列合作成果。基於騰訊混元大模型，金蝶招聘可實現5分鐘招聘需求生產以及簡歷初篩，招聘效率提升90%。基於騰訊雲TI平臺，結合高性能計算集羣與星脈網絡，金蝶訓練財務大模型效率提升30%。
金蝶中國副總裁、研發平臺總經理 李帆
在協同辦公領域，騰訊文檔AI負責人TONY TANG分享了騰訊文檔AI在全品類文檔生成、跨品類信息處理、一鍵式智能交互方面的優勢。目前，基於騰訊混元大模型能力，騰訊文檔AI智能助手已全面應用於文檔、表格、幻燈片、PDF、智能文檔、收集表、思維導圖等文檔類型，涵蓋了文本內容秒級處理、函數公式運算應用、表格數據精準呈現、PPT快速生成美化、收集結果自動分析、思維導圖一鍵生成等多項能力，並支持跨品類文檔內容暢通流轉。用戶在騰訊文檔電腦端或移動端，通過“一句話”的指令，即可開啓AI融合後的智能辦公和高效創作體驗。
騰訊文檔負責人 TONY TANG
2.挖掘雲上增長新能力，解鎖AIGC用雲最佳實踐
AI應用長久穩定運行，離不開雲上基礎設施的構建。建設好堅實的雲基座，才能爲AI應用提供更爲廣闊的能力上探空間。大會現場，多位AI應用的先鋒實踐者基於自身業務進展，分享了AIGC用雲的意義。
在消費領域，值得買科技CTO王雲峰分享了值得買科技1個“值得買消費大模型”，“商品庫”和“內容庫”2大數據庫，AIUC分析引擎、AIGC生成引擎和AGENT調度引擎3個應用構建框架，以及提供針對性的AI解決方案的4類應用AI戰略。
針對雲基礎設施，王雲峰分享了值得買科技依託騰訊混元大模型等理解語音、視頻、圖像的多模態數據，以及自購算力+多雲算力的模式。目前，值得買科技已可實現10億+條商品庫與近百億條內容庫的數據處理和迅速進行模型訓練和推理部署，而通過騰訊雲容器場景GPU虛擬化，什麼值得買也實現了對單個GPU的更細粒度劃分，大大提升了資源利用率減少資源和人力的消耗。
值得買科技CTO 王雲峰
燧原科技副總裁任樹峰表示，通過騰訊雲保障燧原的峰值算力供給，燧原驗證、benchmark測試效率從2周準備環境縮短至30分鐘，提升作業併發100%、縮短仿真週期30%。
燧原科技副總裁 任樹峰
在文娛領域，貓眼娛樂副總裁徐曉分享了基於騰訊雲數據傳輸、數據存儲安全方面能力打造的貓眼渲染平臺的全程雲端製作與渲染提升案例。依託騰訊雲，貓眼娛樂的大數據平臺，可實現日均3萬+離線數倉調度任務穩定運行，核心任務執行效率提升20%。
貓眼娛樂副總裁 徐曉
趣丸技術保障負責人劉亞丹分享了AI大模型賦能軟件研發提質增效的實踐。藉助騰訊雲提供的豐富能力，趣丸在代碼Review、編碼、測試等環節實現效率提升，在AI輔助編碼方面，代碼採納率30%+；AI輔助代碼Review方面，bug有效性60%+，AI輔助測試用例生成方面，測試用例行採納率40%+，運維數字員工方面，問答解決率45%+。
趣丸技術保障負責人 劉亞丹
3.AI原生雲平臺助力企業快速部署AI應用
儘管基於AI大模型，更多AI應用得以迅速落地；但作爲AI應用的底座，大模型對算力的需求正在呈指數級增長，數據集規模持續增大也對數據清洗甄別提出了更高的要求。同時，數據無偏見，圖片、影像、音頻是否安全合規，使用成本是否可控等，都是使用大模型時需要考慮的問題。
從AI應用落地面臨的挑戰出發，騰訊雲行業架構副總監邱浩基於騰訊雲AI全棧解決方案，從基礎設施層、模型層、模型加速層、機器學習平臺層、應用平臺層和業務應用層闡述了騰訊雲在計算、存儲、網絡，一站式AI開發平臺騰訊雲TI-ONE以及雲原生產品等方面的能力，並給出了對應不同階段AI應用開發的具體方案。
騰訊雲行業架構副總監 邱浩
智譜企業商業技術中心總經理柴思遠表示，騰訊雲算力集羣搭配自研的星脈網絡，有效提升了多機並行訓練速度。其中，星脈網絡通過自研交換機和通訊協議，爲每臺GPU服務器提供3.2T的交互帶寬，實現40us內的擁塞控制和0丟包，爲大規模的訓練集羣提供可靠的網絡保障。搭建星脈的算力集羣較智譜原有算力集羣，在13B和60B的模型下吞吐表現均大幅提升。此外，騰訊云爲智譜AI提供高自愈能力的算力集羣，全局監控，一站式掌握7*24小時運行狀態，支持故障自動監測與恢復，保證任務連續進行，其中任務自愈時間從2小時縮短至5分鐘，集羣自愈時間從24小時縮短至10分鐘。
智譜企業商業技術中心總經理 柴思遠
在大模型的助力下，AI應用已覆蓋互聯網多個行業，在業務高效創新上展現出了更強勢的產品力。會上，面向招聘、營銷、文娛等多方面的AI創新應用也悉數亮相。
在招聘方面，獵聘技術副總裁、AI中心負責人莫瑜表示，與騰訊雲共同探索高度自動化的數字助理，針對不同職類主動挖掘招聘需求，簡化工作流程，提升候選人尋訪效率；自動化候選人面試環節，降低人才遴選成本。
獵聘技術副總裁、AI中心負責人 莫瑜
在營銷領域，筷子科技CEO陳萬峰展示了基於騰訊雲的遷移工具MSP、騰訊雲容器服務TKE和中間件、騰訊雲高性能文件存儲CFS Turbo，在數據遷移、彈性伸縮擴容應對高併發，文件存儲以及上傳下載對應解決方案，實現了AIGC一體化平臺在編導、拍攝、剪輯、投放、管理方面工作流性能提升240%。
筷子科技CEO 陳萬峰
騰訊新聞內容治理中心負責人陸毅然表示，騰訊新聞與AI大模型結合後，提供評論識別的AI應用、新聞Push“AI編輯”、新聞“劃重點”、AI助手“新聞妹”等能力。通過AI在新聞內容精選、編輯、評論治理等多個的運用，新聞類產品內容生產效率和用戶體驗同步提升。
騰訊新聞內容治理中心負責人 陸毅然
騰訊混元高級AI策略產品經理張漢策以《長相思 第二季》中的角色AI爲例，介紹了騰訊元寶如何與影視IP進行深度結合。此次《長相思》角色AI基於騰訊自研混元大模型的能力，訓練了專門的角色模型，深入地理解角色的核心特質，而不僅僅是模仿表面的說話風格，從而塑造出更具真實感的角色，激發用戶參與和共創。同時，基於多輪對話能力，實現了持續、實時、個性化對話，並採用音色克隆的技術，高度還原角色原聲，建立了與粉絲真實且長久的聯結。目前，長相思AI角色對話總熱度超3.7億，“相柳” 單角色熱度超2億。
騰訊混元高級AI策略產品經理 張漢策
騰訊雲擁有廣泛的全球基礎設施，覆蓋21個地區，運營58個可用區，全球服務器數量超過100萬臺，全球加速節點超過3200個，帶寬儲備達到200Tbps。截至目前，騰訊雲AI產品已覆蓋超過400家互聯網頭部企業，累計服務超過12萬家互聯網客戶。騰訊雲表示，將繼續秉承開放合作、創新發展的理念，不斷深化AI技術的研發與應用，攜手各界夥伴共同探索AI技術的無限可能，助力企業在變革中把握住機遇，破開創新增長新空間，打造第二增長曲線。
（封面圖來源：騰訊雲）