Meta 推出其最新的定制 AI 芯片
Meta 今天公布了其芯片研发最新成果,紧随英特尔公布其最新 AI 加速器硬件一天之后。这款被称为“下一代”的 Meta 训练与推理加速器(MTIA),是去年的 MTIA v1的后续产品,用于驱动包括在 Meta 平台(如 Facebook)上排名和推荐展示广告的模型。
与基于 7nm 工艺构建的 MTIA v1 相比,下一代 MTIA 采用 5nm 工艺。下一代 MTIA 在物理尺寸上更大,搭载的处理核心也比前代更多。尽管它消耗更多的功率(90W 与 25W),但它的内部存储空间更大(128MB 与 64MB),并且平均时钟速度更快(从 800MHz 上升到 1.35GHz)。
Meta 表示,下一代 MTIA 目前已在其 16 个数据中心区域投入使用,相比 MTIA v1,在整体性能上提升了约 3 倍。
Meta 的 AI 团队面临着成本削减的压力。预计到 2024 年底,公司将在 GPU 上花费约 180 亿美元,用于训练和运行生成式 AI 模型。考虑到尖端生成式模型的训练成本可高达数千万美元,开发内部硬件成为了有吸引力的替代方案。
via 匿名
🗒 标签: #Meta #AI #芯片
📢 频道: @GodlyNews1
🤖 投稿: @GodlyNewsBot
via Yummy 😋 - Telegram Channel
Meta 今天公布了其芯片研发最新成果,紧随英特尔公布其最新 AI 加速器硬件一天之后。这款被称为“下一代”的 Meta 训练与推理加速器(MTIA),是去年的 MTIA v1的后续产品,用于驱动包括在 Meta 平台(如 Facebook)上排名和推荐展示广告的模型。
与基于 7nm 工艺构建的 MTIA v1 相比,下一代 MTIA 采用 5nm 工艺。下一代 MTIA 在物理尺寸上更大,搭载的处理核心也比前代更多。尽管它消耗更多的功率(90W 与 25W),但它的内部存储空间更大(128MB 与 64MB),并且平均时钟速度更快(从 800MHz 上升到 1.35GHz)。
Meta 表示,下一代 MTIA 目前已在其 16 个数据中心区域投入使用,相比 MTIA v1,在整体性能上提升了约 3 倍。
Meta 的 AI 团队面临着成本削减的压力。预计到 2024 年底,公司将在 GPU 上花费约 180 亿美元,用于训练和运行生成式 AI 模型。考虑到尖端生成式模型的训练成本可高达数千万美元,开发内部硬件成为了有吸引力的替代方案。
via 匿名
🗒 标签: #Meta #AI #芯片
📢 频道: @GodlyNews1
🤖 投稿: @GodlyNewsBot
via Yummy 😋 - Telegram Channel