7月11日，英特尔宣布面向中国市场推出第二代Gaudi深度学习加速器-HabanaGaudi2。致力于加速AI训练及推理，为中国用户提升深度学习性能和使用效率。
英特尔执行副总裁兼数据中心与人工智能事业部总经理Sandra Rivera表示，英特尔致力于通过为客户提供广泛的硬件选择，并支持开放的软件环境，加速人工智能技术的发展。凭借包括至强可扩展处理器和Gaudi2深度学习加速器在内的产品组合，英特尔正在降低人工智能的准入门槛，并强化客户在云端通过网络和智能边缘部署这一关键业务技术的能力，从而帮助构建中国人工智能的未来。
为深度学习而生的全新Gaudi2训练加速器
该Gaudi2深度学习加速器暨Gaudi2夹层卡HL-225B，以第一代Gaudi高性能架构为基础，以多方位性能与能效比提升，加速高性能大语言模型运行。该加速器具备：
● 24个可编程Tensor处理器核心（TPCs）
● 21个100Gbps（RoCEv2）以太网接口
● 96GB HBM2E内存容量
● 2.4TB/秒的总内存带宽
● 48MB片上SRAM
● 集成多媒体处理引擎
Habana® Gaudi®2深度学习加速器
Gaudi2加速器的出色性能在6月公布的MLCommons® MLPerf®基准测试1中得到了充分认证，其在GPT-3模型、计算机视觉模型ResNet-50（使用8个加速器）、Unet3D（使用8个加速器），以及自然语言处理模型BERT（使用8个和64个加速器）上均取得了优异的训练结果。与市场上其他面向大规模生成式AI和大语言模型的产品相比，Gaudi2拥有卓越的性能与领先的性价比优势，能够帮助用户提升运营效率的同时，降低运营成本。
此外，Gaudi2可为大规模的多模态和语言模型提供出色的推理性能。在最近的Hugging Face评估中，其在大规模推理方面的表现，包括在运行Stable Diffusion2（另一个用于从文本生成图像的最先进生成式AI模型之一）、70亿以及1760亿参数BLOOMz3模型时，在行业内保持领先。
