NVIDIA 加速 Meta Llama 3 的推理

NVIDIA 宣布对其所有平台进行优化,以加速最新一代大语言模型 Meta Llama 3。开源模型与 NVIDIA 加速计算相结合,使开发人员、研究人员和企业能够在各种应用程序中负责任地进行创新。

接受过 NVIDIA AI 培训的 Meta 工程师在包含 24,576 个 NVIDIA H100 Tensor Core GPU(与 RoCE 和 NVIDIA Quantum-2 InfiniBand 网络连接)的计算机集群上训练 Llama 3。在 NVIDIA 的支持下,Meta 为其旗舰模型调整了网络、软件和模型架构。为了进一步推进生成式 AI 的最先进水平,Meta 最近透露了将其基础设施扩展到 350,000 个 H100 GPU 的计划。

开发人员可以通过浏览器在 ai.nvidia.com 上试用 Llama 3。

🗒 标签: #NVIDIA #Meta #AI
📢 频道: @GodlyNews1
🤖 投稿: @GodlyNewsBot

via Yummy 😋 - Telegram Channel
 
 
Back to Top
oaibest.com 2023-2024   admin@g4f.icu | 服务状态