半岛·体育中国官方网站平台登陆

Training v3.0包含8种不同的负载综合体育中国官方网站

发布日期:2024-06-11 04:54    点击次数:149

K图 NVDA_0

  当地时分周二,机器学习及东谈主工智能鸿沟绽放产业定约MLCommons流露两项MLPerf基准评测的最新数据,其中英伟达H100芯片组在东谈主工智能算力推崇的测试中,刷新了通盘组别的记录,亦然独逐一个大概跑完通盘测试的硬件平台。

image

(开始:英伟达、MLCommons)

  MLPerf是由学术界、现实室和产业构成的东谈主工智能魁首定约,是当今海外公认的泰斗AI性能评测基准。Training v3.0包含8种不同的负载,包括视觉(影像分类、生物医学影像分割、两种负载的物体侦测)、谈话(语音识别、大谈话模子、当然谈话处理)和推选系统。简便来说,便是由不同的缔造供应商提交完成基准任务所需要的时分。

image

(Training v3.0历练基准综合体育中国官方网站,开始:MLCommons)

  在投资者比拟温雅的“大谈话模子”历练测试中,英伟达和GPU云算力平台CoreWeave提交的数据为这项测试设定了阴毒的业界圭臬。在896个英特尔至强8462Y+处理器和3584个英伟达H100芯片的王人心合力下,只是花了10.94分钟就完成了基于GPT-3的大谈话模子历练任务。

  除了英伟达外,唯独英特尔的产物组合在这个方式上赢得评测数据。由96个至强8380处理器和96个Habana Gaudi2 AI芯片构建的系统中,完成相通测试的时分为311.94分钟。横向对比,使用768个H100芯片的平台跑完这个测试也只需要45.6分钟。

image

(芯片越大都据越颜面,开始:英伟达)

  关于这个效果,英特尔也示意仍有高潮空间。表面上只消堆更多的芯片,运算的效果当然会更快。英特尔AI产物高等垄断Jordan Plawner对媒体示意,接下来Habana的运算效果将会呈现1.5倍-2倍的援手。Plawner拒却深切Habana Gaudi2的具体售价,仅示意业界需要第二家厂商提供AI历练芯片,而MLPerf的数据炫夸英特尔有才智填补这个需求。

  而在中国投资者更练习的BERT-Large模子历练中,英伟达和CoreWeave将数据刷到了极点的0.13分钟,在64卡的情况下,测试数据也达到了0.89分钟。BERT模子中的Transformer结构恰是当今主流大模子的基础架构。

  研讨报谈

  国度信息中心单志广:算力指数每提高1点 对GDP有1.8‰的鼓舞

  算力能耗均优于GPU!韩国政企聚合斥资研发NPU芯片 替代竞争或将开启综合体育中国官方网站







Powered by 半岛·体育中国官方网站平台登陆 @2013-2022 RSS地图 HTML地图