人工智能大模型風起雲涌 寒武紀彰顯科技創新硬實力

(原標題:人工智能大模型風起雲涌 寒武紀彰顯科技創新硬實力)

2023年堪稱人工智能大模型大爆發的一年,用百花齊放來形容也不爲過。在這一年裡,人工智能發展迅猛,速度超過以往任何歷史時期。衆多高質量大模型紛紛亮相,涵蓋多個行業領域,應用場景也在不斷拓展。

寒武紀擁有領先的芯片設計能力,能提供雲邊端一體、軟硬件協同、訓練推理融合、具備統一生態的系列化智能芯片產品和平臺化基礎系統軟件。面對大模型爲人工智能帶來的新機遇,寒武紀主動出擊,積極把握。

2023年,寒武紀持續進行大模型的優化和適配工作,先後開發了BangTransformer大模型分佈式推理加速引擎,CNDeepspeed/Megatron-LM大模型分佈式訓練加速引擎,大模型推理與訓練性能預估工具、分析工具以及精度分析工具等大模型相關軟件棧,同時基於思元370等系列產品,與LLaMa系列、BLOOM系列、GLM系列、Stable Diffusion、T5,以及國內的百川、千象等大模型進行了廣泛的適配和驗證,性能優異,並可支持自然語言處理、視覺、多模態等多種場景的大模型應用。

2024年上半年,憑藉人工智能芯片產品的核心優勢,寒武紀持續深化與互聯網、大模型等前沿領域頭部企業的技術合作,以卓越的產品適配能力和開放合作的務實態度,積極助力人工智能的實際應用落地,獲得了客戶的認可。

在這一時期,寒武紀新一代智能處理器微架構和指令集正在研發中。新一代智能處理器微架構及指令集將對自然語言處理大模型、視頻圖像生成大模型以及推薦系統大模型的訓練推理等場景進行重點優化,將在編程靈活性、易用性、性能、功耗、面積等方面提升產品競爭力。同時,寒武紀對基礎軟件系統平臺也進行了優化和迭代。訓練軟件平臺方面, 寒武紀大力推進了大模型業務的適配和優化。推理軟件平臺方面,寒武紀在AIGC業務適配、開源生態建設及易用性等方面都取得了一定進展。

長期以來,寒武紀秉承開放、合作、共享的理念,積極參與開源社區的建設,在多個重要開源項目中貢獻代碼,如PyTorch、TensorFlow、Huggingface、Transformers、vLLM、Deepspeed等大模型訓練推理應用中的核心組件。

人工智能正在深刻地改變着人類的生產生活,寒武紀站在時代的風口浪尖,將繼續秉承持續創新、攻堅克難的精神,攜手員工及合作伙伴,不斷提升產品競爭力及營收業績,同時爲行業和社會的繁榮發展貢獻力量。