英特尔推最新 AI 芯片 Gaudi 3,称能效比 Nvidia 的 H100 高 40%

2024-04-11 作者: 编辑

当地时间4月9日,英特尔CEO帕特·基辛格亮出了最新AI芯片——Gaudi 3。目前,人工智能市场主要由Nvidia、AMD主导,英特尔正积极寻求突破,期望抢占市场份额。

 

图片

图片来源:英特尔

 

英特尔表示,Gaudi 3 AI加速器可通过以太网的通用标准连接多达数万个加速器。与上一代产品相比,英特尔Gaudi 3将带来4倍的BF16 AI计算能力提升,以及1.5倍的内存带宽提升。该加速器将为寻求大规模部署生成式AI的企业带来AI训练和推理方面的重大飞跃。

 

英特尔Gaudi 3预计可大幅缩短70亿和130亿参数Llama2模型,以及1750亿参数GPT-3模型的训练时间。

 

据英特尔称,Gaudi 3芯片训练性能比Nvidia的H100芯片高1.7倍,推理能力提高50%,能效提高40%,但成本低很多,将于2024年第三季量产并全面上市,价格未知。

 

基辛格在现场表示,Gaudi 3的性能将与英伟达H200相当,在某些领域的性能甚至会更好。但是他没有给出具体数据。

 

图片

图片来源:英特尔

 

值得注意的是,外媒指出,H100是英伟达Hopper产品线中的老款芯片,在2022年发布。英伟达在去年又发布了H200,将于今年二季度正式开售,2024年3月英伟达展示了新的Blackwell B100和B200芯片。

 

英特尔表示,Gaudi 3已经在Meta大模型Llama上做了测试,可以有效地训练或部署AI大模型,包括文生图的Stable Diffusion和语音识别的Whisper等等。

 

在现场,基辛格也展示了集成最新英特尔芯片的AI PC,能够快速处理的多项任务,例如快速处理邮件、语音处理、图像渲染等。

 

据了解,英特尔Gaudi 3采用台积电5纳米工艺制造。英特尔Gaudi 3将于2024年第二季度面向OEM厂商出货,包括戴尔、惠普和超微电脑在内的公司将使用该芯片。

 

当天,英特尔还分享了企业AI各细分领域的下一代产品和服务的最新信息。英特尔为面向数据中心、云和边缘发布了下一代处理器英特尔至强6。配备能效核(E-cores)的英特尔至强6处理器将于2024年第二季度推出,配备性能核(P-cores)的英特尔至强6处理器将紧随其后推出,带来更高的AI性能。

 

英特尔想要打造一个广泛的AI生态联盟,推动企业在AI领域创新。

 

英特尔概述了面向开放的、可扩展的AI系统的战略,其中包括硬件、软件、框架和工具。当天,英特尔联合多家公司宣布,将创建一个开放平台助力企业推动AI创新。这一计划旨在开发开放的、多供应商的生成式AI系统,通过RAG(检索增强生成)技术,提供部署便利性、性能和价值。RAG可使企业在标准云基础设施上运行的大量现存专有数据源得到开放大语言模型(LLM)功能的增强,加速生成式AI在企业中的应用。

 

微信扫一扫,一键转发