新闻资讯
欧洲杯下单平台(官方)APP下载IOS/安卓通用版/手机版因为东谈主工智能需要跨多个 GPU-欧洲杯下单平台(官方)APP下载IOS/安卓通用版/手机版
(原标题:GPU,异日怎么发展?)
如若您但愿不错昔日碰头,接待标星储藏哦~
开端:内容来自datacenterdynamics,谢谢。
“咱们骨子上并莫得磋议芯片。”
伊恩·巴克 (Ian Buck) 一世中的大部分时辰齐在念念考芯片。但当今,这位群众最大芯片公司 Nvidia 的加快策动足下,正在作念更雄伟的事情。
“你弗成把 Blackwell 作为芯片来买,”Buck 告诉DCD,他指的是下一代 GPU 家具线,Buck 亦然该公司数据中心和 HPC 业务的副总裁。“这是有原因的 - 它但愿与 CPU 集成。它但愿与 NV Link 集成。它但愿贯穿起来。”
Nvidia 不再专注于单一的半导体业务,而是转型成为一家平台企业。它不再为单一的加快器而郁闷,而是专注于大型集成系统。
“这是咱们在 Pascal 一代(2016 年)作念出的决定,因为东谈主工智能需要跨多个 GPU,”Buck 说谈。“P100 时期改变了咱们构建的东西以及咱们推向市集或提供的东西。当今,是系统。”
Buck 暗示,这一经开动改变数据中心的组成。“策动变革的契机始于超等策动,但跟着东谈主工智能的出现,这一契机一经扩大。
“每个数据中心齐形成了一个 AI 工场。它不所以浮点运算次数或兆瓦来揣度的,而所以每秒令牌数以及您将若干 TB 的数据窜改为公司的坐褥力收益来揣度的。”
非论是否是泡沫,这一机遇齐激勉了新数据中心开荒上升。“但他们弗成等两年才进行开荒情势,”Buck 说谈。“因此,咱们看到东谈主们加快淘汰旧基础材干;他们只是将 CPU 基础材干移出,将 GPU 移入,然后加快开荒,这么每个数据中心齐不错成为 AI 工场。”
他补充谈:“你将看到的不单是是 Nvidia 的一款 GPU,而是多种平台和生态系统的夹杂体,让每个东谈主齐能构建我方所需的 AI 工场和职责负载。每个东谈主齐将处于这一旅程的不同阶段或不同的优化点。”
虽然,尽管 Nvidia 试图开脱对这些所谓“AI 工场”内特定芯片的暖热,但它们的热遐想点 (TDP) 决定了系统其余大部分部件的组成。“Hopper 的功率为 700W,咱们如实接受了空气冷却,”Buck 说谈。
“HGXB100 的功率亦然 700W,它的遐想恰巧相宜 Hopper 的位置,”他补充谈。“因此,当 HGXB100 上市时,咱们统共的工作器、统共这个词数据中心,甚而机架功率齐不错保握不变。”
Buck 宣称,行业不错“诈欺统共这个词生态系统,对其进行升级并大范围部署”。他还暗示,客户“不错充分诈欺 Blackwell GPU,因为 P4 是调动引擎,不错将 NV Link 速率普及一倍。因此,Blackwell 的上市速率将比 Hopper 快得多,部分原因就在于此。”
该公司还推出了 1,000W 版块的 HGX - “相似的硅片,略微修改了工作器,它们必须稍稍高少许,何况接受不同的空气冷却责罚有运筹帷幄。基本上,这是空气冷却所能达到的最大成果。”
但在那之后,事情就变得有点复杂了。“关于 NVL72,咱们但愿确保领有最佳的家具,”Buck 说谈,机架配有 B200 GPU。“每个 GPU 的功率为 1,200W,这成为液体冷却的委果驱能源。
“1U 中有 4 个 GPU?Liquid 关于证据 NVL72 的上风至关紧迫。这可为您带来 30 倍以上的推感性能。”
但是,最佳的并不老是最佳的。“TDP 并不是回话这个问题的正确相貌,”他辩称。“职责负载是若干,什么最相宜您的建树?如若您正在进行 70 亿或 700 亿的参数模子推理,HGX 可能是瞎想的选择,它可能不需要一直使用 100% 的功率。”
但是,趋势昭着是芯片尺寸更大、功耗更大、需要冷却到更低的温度。Nvidia 本人是好意思国能源部 Coolerchips 项运筹帷幄一部分,该情势专注于为越来越热的半导体提供透顶的冷却责罚有运筹帷幄。
Buck 圮绝驳斥 TDP 的发展办法,尤其是在公司转向每年发布 GPU 的情况下。“咱们只是尽可能快地运行,”他说。“不恭候。不保留任何东西。咱们将尽咱们所能打造最佳的家具并不时前进。”
https://www.datacenterdynamics.com/en/analysis/nvidia-ian-buck-gpu-data-center/
半导体杰作公众号推选
专注半导体鸿沟更多原创内容
暖热群众半导体产业动向与趋势
*免责声明:本文由作家原创。著作内容系作家个东谈主不雅点,半导体行业不雅察转载仅为了传达一种不同的不雅点,不代表半导体行业不雅察对该不雅点赞同或因循,如若有任何异议,接待干系半导体行业不雅察。
今天是《半导体行业不雅察》为您共享的第3921内容,接待暖热。
『半导体第一垂直媒体』
及时 专科 原创 深度
公众号ID:icbank
心爱咱们的内容就点“在看”共享给小伙伴哦欧洲杯下单平台(官方)APP下载IOS/安卓通用版/手机版