7 月 11 日，英特尔 AI 产品战略暨 Gaudi2 新品发布会举行，会上，英特尔正式面向中国市场推出第二代 Gaudi 深度学习加速器 ——Habana Gaudi2。作为英特尔从云到端产品组合的重要组成，Gaudi2 致力于以领先的性价比优势，加速 AI 训练及推理。这一产品的推出也为最近火热的大模型市场，带来了新的选择。
Gaudi2 深度学习加速器暨 Gaudi2 夹层卡 HL-225B 以第一代 Gaudi 高性能架构为基础，全方位提升计算性能与能效比。据介绍，Gaudi2 具备 24 个可编程 Tensor 处理器核心，21 个 100Gbps（RoCEv2）以太网接口，96GB HBM2E 内存容量，2.4TB / 秒的总内存带宽，48MB 片上 SRAM 以及集成多媒体处理引擎。
具体性能表现上，Gaudi2 加速器在 6 月份公布的 MLCommons MLPerf 基准测试中获得认证，根据 MLPerf 的测试结果，Gaudi2 在 GPT-3 模型、计算机视觉模型 ResNet-50（使用 8 个加速器）、Unet3D（使用 8 个加速器），以及自然语言处理模型 BERT（使用 8 个和 64 个加速器）几项测试表现有着优异的测试结果。目前声称是 AI 和 LLM 的计算需求需要大规模的扩展，MLPerf 的测试，反映出 Gaudi2 在可扩展性、能效比、易用性上的优势。
另外 Gaudi2 还支持英特尔专门针对 Gaudi 平台深度学习训练和推理优化的 SynapseAI 软件套件，该套件集成 PyTorch、TensorFlow、DeepSpeed 框架；支持 Kubernetes 编排；定制编译器，并拥有 Hugging Face、PyTorch Lightning、RedHat 等软件合作伙伴的支持。
在最近的 Hugging Face 评估中，Gaudi2 在大规模推理方面的表现，包括在运行 Stable Diffusion、70 亿以及 1760 亿参数 BLOOMz 模型时，在行业内保持领先。
针对中国市场，英特尔与浪潮信息合奏打造并发售基于 Gaudi2 深度学习加速器的浪潮信息 AI 服务器 NF5698G7，该产品集成了 8 颗 Gaudi2 加速卡 HL-225B，并包含双路第四代英特尔至强可扩展处理器。
面向中国广阔的 AI 市场，英特尔执行副总裁兼数据中心与人工智能事业部总经理 Sandra Rivera 指出，“英特尔致力于通过为客户提供广泛的硬件选择，并支持开放的软件环境，加速人工智能技术的发展。凭借包括至强可扩展处理器和 Gaudi2 深度学习加速器在内的产品组合，英特尔正在降低人工智能的准入门槛，并强化客户在云端通过网络和智能边缘部署这一关键业务技术的能力，从而帮助构建中国人工智能的未来。”
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。