ModelEngine作為大模型訓練、推理和應用開發的AI平台,提供從數據預處理到模型訓練、優化及部署的一站式服務。
觀點網訊:2月6日,華為DCS AI全棧解決方案中的核心産品ModelEngine AI平台,宣布全面支持DeepSeek大模型R1&V3和蒸餾繫列模型的本地部署與優化,旨在加速客戶AI應用的快速落地。
ModelEngine作為大模型訓練、推理和應用開發的AI平台,提供從數據預處理到模型訓練、優化及部署的一站式服務。
ModelEngine基于升騰AI芯片,通過推理框架優化和MoE存算協同,提供動态換入換出和全局統一緩存,實現推理高並發和低時延,用戶通過ModelEngine體驗DeepSeek更加快速高效的推理能力。
此次更新,ModelEngine全面支持DeepSeek繫列模型R1&V3 671B以及蒸餾繫列模型,開發者可通過ModelEngine實現“一鍵部署”,省去硬件選型、兼容性驗證和環境配置等繁瑣步驟,大幅降低企業AI應用門檻。
此外,ModelEngine通過其高度的開放性和模塊化設計,極大地縮短了DeepSeek的本地部署時間,提供負載均衡、模型安全接入、多用戶配額管理等高階特性,支持大規模生産環境下的穩定運行。
免責聲明:本文内容與數據由觀點根據公開信息整理,不構成投資建議,使用前請核實。
審校:徐耀輝
