唯一可靠替代NVIDIA!Intel至强CPU、Gaudi2加速器AI组合做到了 世界速读
快科技6月28日消息,今天,机器学习与人工智能开放产业联盟MLCommons公布了AI性能基准测试MLPerf Training 3.0的结果,Intel旗下的Habana Gaudi2深度学习加速器、第四代至强可扩展处理器联合,展现出了优秀的性能。
可以说,Intel这套组合已经成为唯一能够可靠取代NVIDIA GPU的方案。
(相关资料图)
MLPerf是目前最具信服力的AI性能测试基准,能够在各种解决方案之间进行公平、可重复的性能比较。
目前,Intel已经拥有超过100次的MLPerf性能测试结果,而且是唯一一个使用行业标准的深度学习生态系统软件,并公开提交CPU结果的厂商。
根据业内当前的普遍观点,生成式AI和大语言模型(LLM)只适合在高性能GPU上运行,但最新数据显示,基于Intel CPU、加速器的组合方案,同样有着极高的效率,而且是开放生态环境,效率与规模不受限制,从而为客户提供极具竞争力的选择。
其中,第四代可扩展至强内置的各种加速器,使其成为在通用CPU处理器上运行大量AI工作负载的理想解决方案,Gaudi则在生成式AI、LLM方面有着优秀的性能,此外Intel还提供了经过优化的、易于编程的开放软件,降低AI部署门槛。
Habana Gaudi2夹层卡
最新的MLPerf 3.0测试结果显示,面对要求极为苛刻的、1750亿参数的GPT-3模型,Habana Gaudi2的性能非常出色,可扩展性也非常灵活:
1、384个加速器上的训练时间仅为311.9分钟——512个NVIDIA H100加速器需要64.3分钟。
2、256个加速器到384个加速器,性能扩展95%,接近线性提升。
3、在计算机视觉模型ResNet-50(8个加速器)和Unet3D(8个加速器),以及自然语言处理模型BERT(8个和64个加速器)上,都取得了优异的训练结果。
4、与去年11月提交的数据相比,BERT和ResNet模型的性能分别提高了10%、4%。
5、支持“开箱即用”,客户在本地或在云端使用Gaudi2时,可以获得与本次测试相当的性能结果。
值得一提的是,Gaudi2是仅有的两个向GPT-3大模型训练基准提交性能结果的解决方案之一。
软件层面,本次提交的GPT-3模型基于PyTorch,并采用了当前流行的、隶属微软大规模AI的DeepSpeed优化库,而非定制软件。
DeepSpeed能够同时支持Data、Tensor、Pipeline的三维并行,进一步优化了大语言模型的扩展性能效率。
本次MLPerf 3.0的Gaudi2结果以BF16数据类型提交,在四种不同模型上的性能均优于NVIDIA A100,价格更便宜。
第三季度还会发布对FP8数据类型的软件支持与新功能,预计届时Gaudi2的性能将有明显飞跃,预计性价比将超越NVIDIA H100。
Intel可扩展至强则是向MLPerf 3.0提交的众多解决方案中,唯一基于CPU通用处理器的,也支持“开箱即用”,即在通用系统上部署AI。
MLPerf 3.0四代可扩展至强测试的亮点有:
1、在封闭区,47.93分钟的训练时间即可完成BERT模型,88.17分钟即可完成ResNet-50模型。
2、多节点扩展可以实现几乎线性的性能提升,可达97-100%。
3、BERT模型的开放区扩展至16个节点时,31.06分钟即可完成模型训练。
4、对于较大的RetinaNet模型,16个节点上的训练时间仅为232分钟。
5、基于Intel AMX高级矩阵扩展,可提供显著的“开箱即用”性能提升,覆盖多个框架、端到端数据科学工具,以及广泛的智能解决方案生态系统。
Intel还对比了至强铂金8480+、NVIDIA A100使用不同数据集完成HuggingFace Distilbert模型的结果,分别只需3.61分钟、0.7分钟。
虽然相比对手的1.49分钟、0.45分钟还有差距,但速度已经相当快,尤其是作为通用CPU对比专用GPU达到如此程度,实属不易,这都得益于Intel良好、深入的系统优化。
标签:
推荐文章
- 唯一可靠替代NVIDIA!Intel至强CPU、Gaudi2加速器AI组合做到了 世界速读
- 全球快看点丨日本家电零售商山田控股将开始销售三菱电动汽车
- 滚动:川菜花椒肉
- 环球快消息!win7无法关机一直转圈(win7无法关机)
- 自主研发国产钢铁“巨无霸”完成沉降精度毫米级隧道施工
- com surrogate已停止工作怎么解决win10(com surrogate已停止工作)-全球焦点
- 死刑!广州天河“1·11”驾车撞人案二审维持原判
- 《激战 2》的下一个资料片将于今年 8 月发布,并将最终解答一个 18 年来的谜团
- 宜兴市南亚塑业有限公司(关于宜兴市南亚塑业有限公司介绍)
- 世界互联网大会数字文明尼山对话 | 互联网大咖畅谈人工智能
- 重点聚焦!印刷机械设备价格_印刷机价格
- 国芯科技:6月27日融资买入1037.81万元,融资融券余额4.31亿元
- 当前焦点!中贝通信不超5.2亿可转债获上交所通过 海通证券建功
- A股异动|*ST左江大涨10% 股价有望挑战新高 控股子公司签订重要合同 今日热搜
- 任天堂将增加新主机出货量 防止黄牛泛滥倒卖机器
- 今日播报!试驾雷克萨斯RX丨寻觅传统村落的那份“清”净
- 世界最新:中远海能:6月27日融券净卖出1100股,连续3日累计净卖出13.23万股
- usb运行不正常windows无法识别怎么办_USB设备运行不正常 Windows无法识别 怎么办
- 《伊苏10:北境历险》新预告片提供原声曲目试听 焦点速递
- 民事裁定书上诉期过后有新证据(民事裁定书上诉期)_天天简讯
- 骊威2013款1.6xe cvt舒适版_骊威2013
- Gucci | 经典的创意畅想
- 实现高质量发展靠什么?这些广州国企透露了一个秘诀_全球最新
- 红旗冉冉扬国威,大宁路小学开展爱国主题教育活动 播资讯
- 当前通讯!珍爱生命、远离毒品,辛集开展禁毒日宣传系列活动
- 喝半两白酒算不算酒驾_喝半两白酒开车算酒后驾驶吗
- 【洞见研报解析】2023年度中国在线旅游行业:数字化创新助力复苏与增长
- 【世界热闻】九洲集团:拟向全资子公司九洲能源增资不超过4亿元
- FRAPS视频导入VEGAS教程
- 上市建筑公司去年营收增速有所放缓 未来资本市场价值重估可期 观速讯
- 古典音乐介绍ppt_儿童古典音乐欣赏相关内容简介介绍|焦点速讯
- 如何利用火山小视频赚钱 火山小视频怎么赚钱火山小视频赚钱技巧攻略_焦点速读
- 世界焦点!西蒙·温切斯特:中国并没有对美国构成威胁
- 细心“的哥”守护失物冒雨送还_当前关注
- 今日讯!中银证券(601696)6月27日主力资金净买入586.92万元
- 环球今日讯!机构:成品油价格将迎2023年第五次上涨
- 年内新增专项债发行突破2万亿元 专家预计三季度将迎来发行高峰
- madsexycool铃声下载_madsexycool 焦点精选
- 开倒车!手机厂商为什么致力于在屏幕上挖孔?
- 诸暨宝石鉴定机构谈谈女孩子为什么喜欢珠宝
- 吃错药可能有生命危险?不同类型的药到底该怎么吃?_环球热门
- 当前动态:满街游客,别样火热
- 卸下网红外衣,“防晒界Lululemon”讲不出新故事?
- 6月27日国内BDO部分厂家公布竞拍价格
- 海外资金对国内经济修复较为乐观 带动铁矿市场情绪较快好转 全球速看
- 南昌启动户外广告安全隐患整治 热文
- 乌海供电公司电能计量中心:劳动保护监督检查助安全生产|世界视讯
- 远方信息6月27日快速回调|每日热文
- 电子信息产业大有可为,西部电博会彰显成都新动能-当前观察
- 巴西南部地区遭冬季风暴侵袭 损失严重
- 夏季来了,坐公交地铁等交通工具凉快还是热?快来这里说
- 焦点速递!综艺股份:融资净买入421.14万元,融资余额5.29亿元(06-26)
- 全球视讯!创新驱动 高质稳步发展
- 若羌枣有颜值更有味道——若羌县创建国家现代农业产业园提升红枣产业附加值-每日观点
X 关闭
最新资讯
- 环球今日讯!vcci认证标准_vic ce认证
- 宋青羊宫窑陶支钉
- 世界看点:协合新能源(00182.HK)拟3.54亿元采购风电设备
- 高职展台前家长考生挤爆棚,极目新闻高招咨询会持续火热
- 听说“多巴胺穿搭”很流行?朕早就玩明白了
- 公牛挤奶这幅漫画讽刺了现实生活中哪种现象或哪一类人(漫画公牛挤奶的启示简介介绍)-视点
- 台湾制造业营业气候测验点连续两月下滑 当前消息
- 全球聚焦:荒唐!韩高官竟称日本核污染水排海是“最现实”处置方法
- 环球观焦点:女医生遭前夫投毒案追踪:前夫被开除公职,多名卫健人员拟被警告、通报批评
- 与26年前的塞车终于“和解” 梁家辉代言MAZDA CX-50行也 世界聚看点
- 世界实时:石家庄开通至韩国仁川客运航线
- 2023年青岛市政府立法工作计划发布
- 《江湖客栈》游戏基础攻略 热议
- 上海市市场监管局开展打击侵害“一老一小”权益集中执法行动
- 武帐一首|天天时讯
- 环球即时:安倍遇袭一周年之际 日本计划在奈良市建立慰灵碑 市民曾一致反对
- 天天热点评!厂商回应RTX 4060 Ti/RX 7600破发降价:卖不动 保销量
- 【动画】“80、90、00后”:我们的高考记忆-天天热门
- 拆息连续两日全线下跌 隔夜息跌穿5%创近一周新低|天天热头条
- 每日热门:以车为本,规划混乱:“台湾对于行人来说是人间地狱”
- 环球热点评!房产过户给子女新规定2023(房产过户给子女新规定)
- 萨满最强卡组雷克萨(萨满酷炫组合技
- 焦点速读:鱼子酱怎么吃才正确什么价格 鱼子酱怎么吃
- 营业执照申请的操作过程是什么|天天热点评
- 《暗黑破坏神4》电法球状闪电流分享 电法球状闪电流怎么玩?
- h2o2电子式_H2O2电子式是什么 每日精选
- 我叫mt4新职业推荐(我叫mt4职业推荐)_信息
- 天天亮点!OpenAI CEO:如果马斯克真和小扎决斗,我会去看
- 世界热头条丨日本又一锋线天才横空出世,身高2米华裔,曾凡博们的挑战来了
- 内蒙古阿拉善盟市场监管局组织开展“2023清风行动”
- 环球快报:残民害物
- 金融知识进万家 社会责任勇担当_全球视讯
- 《云顶之弈》S9 334厄斐琉斯阵容方法_世界焦点
- 微视频|大地诗篇 全球独家
- 世界观焦点:1.06亿人次,超2019年同期!端午出游很“热”
- 观速讯丨英国名媛约会小13岁希腊王子!刚和前夫分手,面容憔悴不影响被追
- 当前热点-国家级非遗五常龙舟胜会举行 再现“龙腾水乡”盛景
- 世界实时:普里戈任接受白俄缓和局势建议 其刑事立案将获撤销
- 高质量发展调研行|每秒卖出2173元——海南免税“金招牌”的底气 天天热门
- Win11最近一个月卡爆了!微软认错原因找到了
- 【独家焦点】这样吃晚饭,脑出血风险增加44%!健康吃晚饭,牢记这3点!
- 40岁女性多穿裙子凸显气质
- 全球快资讯:随身无线wifi
- 当前滚动:确定!广东留美新星正式归队开启夏训,杜锋渴望其顶住锋线!
- 13岁王诗龄变大姑娘!瘦身成功精致瓜子脸,穿露脐装大秀身材|当前观察
- 郭德纲郭家菜菜单_郭德纲 郭家菜 天天快资讯
- 3999元起! 摩托罗拉moto razr 40明日开售-即时
- 1人民币换多少新币?2023年6月24日 当前报道
- 高校资讯丨@高考考生,6月25日!天津师范大学校园开放日暨本科招生咨询会来啦~
- 2023年6月24日不防水蜂窝活性炭价格最新行情预测|环球微头条
X 关闭