关闭广告

英伟达H100杀疯了:11分钟训完GPT-3,霸榜8项测试

量子位15737人阅读

明敏 发自 凹非寺
量子位 | 公众号 QbitAI

11分钟内训练一遍GPT-3,8秒训完BERT

这就是英伟达给AI圈的一点“小小震撼”。

在最新MLPerf训练基准测试中,英伟达H100集群,横扫八项测试,全部创下新纪录,并且在大语言模型任务中表现尤为突出!



在大语言模型任务中,H100集群的加速性能逼近线性增长

即随着集群处理器数量增加,加速效果也几乎同比增加。

这意味着在集群内GPU之间的通信效率非常高。

阅读全文
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

武契奇称"无法保证不制裁俄罗斯" 俄方回应

参考消息网 浏览 5736

拜登在国情咨文演讲中宣布"大计划" 招致多方嘲讽

环球时报新闻 浏览 69998

蜜雪冰城开到公交站乘车享折扣 执法局的人却上门了

每日经济新闻 浏览 30642

埃安 UT super 国民好车下线,广汽、京东、宁德时代联合打造

IT之家 浏览 661

中纪委评论你好李焕英具体是怎么说的?

趣看热点 浏览 26243

长平之战的遗址现在在哪里呢?长平之战是否坑杀了四十万之众

趣看热点 浏览 25897

巴厘岛命案疑点重重 法医从业者:不能完全排除自杀

封面新闻 浏览 118216

场均14.3分!马拉加球员卡利诺斯基当选本届洲际杯MVP!

直播吧 浏览 1538

满配华为全家桶 岚图追光L将上市

网易汽车 浏览 230

中国核动力潜艇在台湾附近发生事故?谣传!

澎湃新闻 浏览 14885

Sam Altman、Hinton中国首秀!国内最硬核AI内行盛会圆满闭幕,国产大模型「悟道3.0」全面开源

新智元 浏览 16483

这3款女包 被男生背出了好看的样子?

草叔BiBi机 浏览 15591

为什么你越保养,皮肤反而越没光?

时尚COSMO 浏览 883

特朗普称可能将军事行动扩大到墨西哥和哥伦比亚

大象新闻 浏览 20

尼日利亚两大极端组织火并不断 数百人恐丧命

环球网资讯 浏览 18980

贾康:建议今年赤字率按3-3.5%安排!

网易研究局 浏览 26911

以为丁真在西藏丁真是四川小伙,四川:原来爱会消失

趣看热点 浏览 26593

逛上海时髦的街头店,记得带件泳衣

外滩TheBund 浏览 19294

罗马诺:曼联认为亚特兰大要价过高,因此还未报价霍伊伦德

直播吧 浏览 15580

华熙生物市值缩水近五倍 变革之路困难重重

网易号外 浏览 12678

利物浦已遭遇英超四连败,上次顶级联赛五连败还是1953年

懂球帝 浏览 713
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1