技术博客
英特尔Gaudi 3 AI芯片:以性价比挑战英伟达的AI芯片霸主地位

英特尔Gaudi 3 AI芯片:以性价比挑战英伟达的AI芯片霸主地位

作者: 万维易源
2024-04-11
雷科技
AI英伟达英特尔英特尔Gaudi 3

在人工智能(AI)领域,英伟达的GPU长期以来一直占据主导地位,特别是在数据中心和深度学习训练方面。然而,英特尔作为芯片行业的巨头,自然不会轻易放过这个快速增长的市场。近期,英特尔发布了Gaudi 3 AI加速器,一款旨在以高性能和性价比挑战英伟达H100 GPU的产品。

英特尔Gaudi 3 AI加速器的主要卖点在于其卓越的性能和成本效益。与英伟达H100相比,Gaudi 3在人工智能推理性能上平均提高了50%,能效平均提高了40%。在Llama2-7B和Llama2-13B等关键大模型的基准测试中,Gaudi 3能够将训练时间缩短到H100的一半,同时推理吞吐量也比H100平均高出50%。这些性能的提升使得Gaudi 3在某些关键应用场景中能够超越基于英伟达Hopper架构的H100 GPU 1

在成本方面,英特尔Gaudi 3的优势更为显著。其成本仅为英伟达H100的一小部分,这对于预算有限的企业和机构来说是一个极具吸引力的因素。这种成本效益的提升使得Gaudi 3成为那些希望在AI领域投入但又不希望花费巨大的企业的理想选择。

从硬件规格上看,Gaudi 3采用了台积电的5nm工艺,张量核心从24个升级到32个。相比上一代Gaudi 2,Gaudi 3在FP8性能、BF16性能、网络带宽和内存带宽方面都得到了全面提升。Gaudi 3的FP8吞吐量高达1835 TFLOPS,这表明其在大规模并行计算方面的强大能力。然而,值得注意的是,Gaudi 3并没有采用最新的HBM3内存,而是使用了稍微过时的HBM2e。这可能是在成本和性能之间做出的权衡,尽管这可能会在一定程度上影响其与最新技术的竞争力 2

英特尔的这一战略举措显然是为了在AI芯片市场中占据一席之地。尽管英伟达目前在AI加速计算方面技术和生态领先,但英特尔通过Gaudi 3的发布表明了其在硬件上的追赶决心。通过提供高性价比的解决方案,英特尔希望能够吸引那些对成本敏感的客户,尤其是在AI应用日益普及的当下。

总的来说,英特尔Gaudi 3 AI加速器以其强大的性能和显著的成本优势,为市场提供了一种新的选择。它可能会成为那些寻求在AI领域取得突破但预算有限的企业和机构的理想选择。虽然英伟达在AI芯片市场的地位依然坚固,但英特尔的这一挑战无疑为市场带来了新的竞争局面,也为未来的技术创新和价格竞争埋下了伏笔。随着AI技术的不断发展和应用场景的扩大,我们可以期待更多高性能、高性价比的AI芯片出现在市场上。