華為ModelEngine AI平台全面支持DeepSeek大模型本地部署

观点网

2025-02-06 18:17

  • ModelEngine作為大模型訓練、推理和應用開發的AI平台,提供從數據預處理到模型訓練、優化及部署的一站式服務。

    觀點網訊:2月6日,華為DCS AI全棧解決方案中的核心産品ModelEngine AI平台,宣布全面支持DeepSeek大模型R1&V3和蒸餾繫列模型的本地部署與優化,旨在加速客戶AI應用的快速落地。

    ModelEngine作為大模型訓練、推理和應用開發的AI平台,提供從數據預處理到模型訓練、優化及部署的一站式服務。

    ModelEngine基于升騰AI芯片,通過推理框架優化和MoE存算協同,提供動态換入換出和全局統一緩存,實現推理高並發和低時延,用戶通過ModelEngine體驗DeepSeek更加快速高效的推理能力。

    此次更新,ModelEngine全面支持DeepSeek繫列模型R1&V3 671B以及蒸餾繫列模型,開發者可通過ModelEngine實現“一鍵部署”,省去硬件選型、兼容性驗證和環境配置等繁瑣步驟,大幅降低企業AI應用門檻。

    此外,ModelEngine通過其高度的開放性和模塊化設計,極大地縮短了DeepSeek的本地部署時間,提供負載均衡、模型安全接入、多用戶配額管理等高階特性,支持大規模生産環境下的穩定運行。

    免責聲明:本文内容與數據由觀點根據公開信息整理,不構成投資建議,使用前請核實。

    審校:徐耀輝



    相關話題讨論



    你可能感興趣的話題

    科技

    AI

    大模型

    華為