Echo

Echo 关注TA

大家好,我是Echo!

Echo

Echo

关注TA

大家好,我是Echo!

  •  普罗旺斯
  • 自由职业
  • 写了280,117,768字

最近回复

该文章投稿至Nemo社区   资讯  板块 复制链接


研究者:AI 模型“推理环节”耗电更多,2027 年行业用电量将“堪比荷兰一国”

发布于 2023/10/13 23:14 141浏览 0回复 908

IT之家 10 月 13 日消息,《Cell》的姐妹期刊《Joule》本周出版了一篇名为《持续成长的人工智慧能源足迹(The growing energy footprint of artificial intelligence)》论文。

IT之家经过查询得知,该论文由科研机构 Digiconomist 创始人 Alex De Vries 发表,其声称未来 AI 推理性能可能会消耗大量的电力,而到 2027 年,AI 的用电量可能等同于荷兰一年的电力使用。

Alex De Vries 表示,外界一向认为训练一个 AI 模型“AI 最耗电的阶段”,但 Vries 引用了 SemiAnalysis 及谷歌的报告指出,“推论环节”所消耗的电力更多,自 2019 年到 2021 年,与 AI 相关的能源消耗中,预计有 60% 来自模型推论。

▲ 图源 相关论文

Alex De Vries 同时以谷歌在 2021 年披露的 18.3 TWh 耗电量来计算,声称当时 AI 占了谷歌公司整体耗电量的 10%-15%,而在谷歌全面实施“AI 搜索”之后,该公司在 AI 方面的耗电量最高可能达到 27.4 TWh,接近爱尔兰一整年所使用的电力(29.3 TWh)。

就整个市场来看,随着英伟达合作伙伴台积电(TSMC)所投资的新 CoWoS 厂预计于 2027 年量产,Alex De Vries 也估计届时英伟达所交付的全数 AI 服务器总用电量将达 85-134 TWh,相当于荷兰一年的电力使用。

▲ 图源 相关论文

Alex De Vries 认为,AI 产业应当提高硬件效率,改善模型演算效率,以改善产业的耗电情况,他还建议开发者不仅应专注于优化 AI,也必须考虑使用 AI 的必要性,以降低 AI 行业的耗能成本

参考

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。


本文由LinkNemo爬虫[Echo]采集自[https://www.ithome.com/0/724/837.htm]

点赞(0)
点了个评