> 自媒体 > AI人工智能 > 英伟达H100杀疯了:11分钟训完GPT-3,霸榜8项测试
英伟达H100杀疯了:11分钟训完GPT-3,霸榜8项测试
来源:随机的花朵
2023-08-30
187
管理

阅读此文前,诚邀您点击一下“关注”按钮,方便以后持续为您推送此类文章。严正声明:本人在今日头条所发作品皆为原创首发,拒绝任何人任何形式搬运到其它平台发布!您的支持是我们坚持创作的动力。

在当今人工智能领域,创新不息,竞争日益激烈。近日,一则令人瞩目的消息传来,引发了业界的广泛关注。英伟达,这家享誉世界的半导体巨头,以其强大的技术实力再次向全球展示了自己的霸主地位。

H100基于最新的Hopper架构,采用了台积电4nm工艺,集成了800亿个晶体管,内核数量更是达到了前所未有的16896个,使其在大模型训练速度上能够获得显著的提升。另外,集群内的加速网络也功不可没,英伟达Quantum-2 InfiniBand网络的出色表现为集群内的通信提供了坚实的基础,使得集群性能的提升能够得以更好地体现。

值得一提的是,除了集群规模的测试外,单节点性能也得到了显著的提升。

相较于6个月前的测试数据,单个DGX H100系统在各项任务中的平均提速达到了17%,在某些任务中甚至能够实现3.1倍的提速,与A100 Tensor Core GPU相比更是一骑绝尘。这些令人瞩目的成绩的实现,不仅得益于H100本身的强大性能,还有赖于英伟达对技术创新的持续投入。

在这次测试中,除了英伟达的出色表现外,云厂商CoreWeave也不容忽视。

CoreWeave作为一家迅速崛起的大型云厂商,以其卓越的性能和灵活的解决方案赢得了众多科技巨头的青睐。不仅如此,与英伟达的合作进一步扩大了其影响力,使其在云计算领域拥有更大的竞争优势。而AI初创公司Inflection AI的加入,更是为这一合作锦上添花。由DeepMind创始成员穆斯塔法·苏莱曼等人创立的Inflection AI,旨在通过其大语言模型Pi改善人机交互体验,为用户提供更加个性化的智能服务。

这种合作模式的不断扩大,预示着未来计算集群领域的进一步发展。

综上所述,英伟达H100集群在最新的MLPerf训练基准测试中所取得的优异成绩,不仅彰显了其在硬件技术上的卓越实力,也凸显了云计算领域的不断创新和合作模式的不断深化。这一系列的突破和成就,将不仅推动人工智能技术的发展,也将引领整个行业向着更加美好的未来迈进。

文章千字以上,内容较为细腻,麻烦点一下关注,便于您后期持续关注喜爱内容,感谢您的阅读和欣赏。

0
点赞
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与华威派无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
凡本网注明 “来源:XXX(非华威派)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。
如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。
QQ:2443165046 邮箱:info@goodmaoning.com
关于作者
轻随风之舞(普通会员)
点击领取今天的签到奖励!
签到排行
0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索