《電周邊》研華攜滿拓、羣聯 加速企業AI推論與LLM訓練
本次實戰營旨在幫助企業快速建立「可負擔的」自有生成式AI平臺,透過研華AIR-520 LLM邊緣運算伺服器所提供的獨家功能,包括預訓練模型、AI推論、大量部署「Edge AI SDK & DeviceOn」,結合羣聯aiDAPTIV+技術與滿拓科技的DeepExpert落地解決方案,讓企業客戶僅需針對內部資料進行設定及微調,即可輕鬆打造專屬的生成式AI環境,擺脫GPU和VRAM的高昂建置成本。
此次實戰營將分享醫療照護、半導體、零售行業的LLM實作案例,瞄準企業在職工程師、產品經理、軍公教、科研單位的實作需求,與其他課程不同的是,學員結業後即可打造企業自有LLM,從硬體驗證、大型語言模型訓練、AI推論到大量部署的軟硬體整合。
研華臺灣營運處副總經理林其鋒表示,臺灣生成式AI市場將逐漸發展企業自有平臺,而嵌入式應用需求多樣且廣泛,企業在導入GenAI時即面臨技術與資金的門檻,也因此研華希望與合作伙伴,從培育人才、技術服務、商務諮詢着手,協助客戶降低生成式AI模型落地的困難,「Edge AI工程師實戰營-LLM大型語言模型班」正是研華推動企業自有LLM平臺的第一步。
滿拓科技執行長吳昕益指出,研華深知企業在落地LLM所面臨的挑戰,滿拓與研華攜手合作,從人才培育解決客戶痛點,本次課程將結合研華AIR-520 LLM邊緣運算伺服器進行實機演示,包括LLM Fine Tune平臺、文檔管理、客戶服務及Fine Tune概念等,並搭配Chat應用於醫療照護、半導體、零售行業等客戶案例。