DSP数字信号处理器IC集成电路-芯片在线商城平台-英伟达H100:算力巨兽能耗惊人,总耗电量将超欧洲小国
你的位置:DSP数字信号处理器IC集成电路-芯片在线商城平台 > 芯片产品 > 英伟达H100:算力巨兽能耗惊人,总耗电量将超欧洲小国
英伟达H100:算力巨兽能耗惊人,总耗电量将超欧洲小国
发布日期:2024-02-11 08:46     点击次数:89

人工智能(AI)随着计算能力的快速发展,对计算能力的需求也呈爆炸式增长。英伟达H100芯片作为人工智能处理器的重要供应商,目前非常畅销。然而,每块H100的峰值功耗高达700瓦,远远超过了普通美国家庭的平均功耗。这一趋势导致了数据中心和人工智能处理器的功耗问题,特别是随着大量H100的部署,专家预测其总功耗将相当于美国大城市甚至一些欧洲小国。

根据微软数据中心技术治理和战略部首席电气工程师保罗·楚诺克的预测,到2024年底,总功耗将超过亚利桑那州凤凰城所有家庭,但仍低于德克萨斯州休斯顿等更大的城市。

楚诺克在凌英发帖进一步指出,每块H100的峰值功耗为700瓦,相当于一个美国家庭的平均功耗,按61%的年利用率计算。英伟达预计2024年H100的销量将在150万到200万之间。根据城市居民用电量排名,H100的总功耗将在美国排名第五,仅次于休斯顿和凤凰城。

另外,数字处理器,集成芯片,芯片在线商城平台如果按61%的年利用率计算,每块H100每年消耗约3740千瓦时(kWh)的电量。如果英伟达在2023年销售150万H100,2024年销售200万,到2024年底将部署350万H100芯片。这些芯片的年耗电量将达到130.91亿千瓦时,即13091.82吉瓦时(GWh)。相比之下,格鲁吉亚、立陶宛或危地马拉等国家的年平均功耗约为13092吉瓦时。

然而,尽管H100的功耗令人震惊,但值得注意的是,人工智能和高性能计算(HPC) GPU的效率在不断提高。因此,虽然英伟达下一代Blackwell架构的B100芯片的功耗可能超过H100,但它也将提供更高的性能,以更少的单位功耗完成更多的工作。

随着人工智能技术的不断发展,如何平衡计算能力与能耗之间的矛盾将成为未来亟待解决的重要课题。这不仅涉及到单个处理器的效率,还涉及到整个数据中心的能耗和环境影响。因此,为了实现人工智能的可持续发展,行业需要继续关注并采取有效措施来应对这一挑战。