AMD已将 DeepSeek-V3 模型集成到 Instinct MI300X GPU 上,利用 SGLang 彻底改变 AI 开发

AMD 宣布已将新的 DeepSeek-V3 模型集成到 Instinct MI300X GPU 上,该模型经过 SGLang 强化,针对 Al 推理进行了优化。SGLang 和 DeepSeek 团队通力合作,使 DeepSeek V3 FP8 从首发当天就能在 AMD GPU 上运行。

AMD Developer Central
AMD on X

📮投稿 ☘️频道 🌸聊天

via 科技圈🎗在花频道📮 - Telegram Channel
 
 
Back to Top