N卡卖到25万还缺货 Intel直击NVIDIA软肋：AI性价比远超H100

7月15日消息，在AI市场上，NVIDIA现在是没有对手的阶段，AI显卡份额估计在90%以上，AMD都很难竞争，现在Intel也加入这个市场了，而且找到了NVIDIA的一个痛点，那就是性价比。

NVIDIA目前受追捧的AI显卡主要是A100、H100，国内有特供的阉割版A800、H800，性能比原版弱20%左右，但即便如此依然供不应求，A800一周时间就从9万元涨到11万元以上，H100价格在25万元以上，H800也要20万出头，而且不同经销商的价格差异很大。

Intel自然也不会放过这个市场，日前在国内举行发布会，也推出了AI显卡Habana Gaudi2，这是去年底发布的AI推理加速芯片，从第一代的16nm工艺升级到7nm工艺，Tensor 处理器核心数量增至 24 个，同时集成了多媒体处理引擎，内存升级至 96GB HBM2E。

国内版的Gaudi2主要是阉割了部分网络接口，但也集成了21路100Gbps网络接口，总体来说性能依然很可观。

Intel还公布了Gaudi2跟H100的AI性能对比，面对要求极为苛刻的、1750亿参数的GPT-3模型，384个Gaudi2加速器上的训练时间仅为311.9分钟，而且从256个加速器到384个加速器，性能扩展幅度达95％。

NVIDIA这边在512块 H100 GPU上的训练时间则为64分钟，论单卡性能的话是Gaudi2的3.6倍多，但是Intel不会跟H100拼极限性能，而是强调性价比。

Habana Labs 首席运营官 Eitan Medina 表示，性价比是影响H100和Gaudi2相对价值的重要考量因素，Gaudi2 服务器的成本要比H100低得多。

更重要的是，目前Gaudi2还没有支持AI常用的FP8运算格式，这种情况下Gaudi2 在性价比上也胜过了H100，今年3季度会升级支持FP8运算，Gaudi2的性能将有明显飞跃，性价比要比H100更高了。