“生成内容所需的能耗差异很大，取决于所用模型和GPU配置

1. 23:48 · 2025年6月27日 · 周五

   wwang的笔记

   “随着数据中心生产实现自动化，智能的成本最终应该会趋近于电力成本。（人们经常好奇一次ChatGPT查询消耗多少能量；平均每次查询约消耗0.34瓦时，大致相当于烤箱运行一秒多钟或一个高效灯泡亮几分钟所用的能量。每次查询还约耗水0.000085加仑，约等于十五分之一茶匙的水量。）” -- Sam Altman https://blog.samaltman.com/the-gentle-singularity

   “生成内容所需的能耗差异很大，取决于所用模型和GPU配置。可以将卢乔尼的测试结果与为一部普通智能手机充满电所需的能量（约10瓦时）作对比：
   
   文本内容：一个在单个GPU上运行的轻量级Meta Llama模型大约消耗0.17瓦时电能，而一个在多个GPU上运行的更大型Llama模型则耗电1.7瓦时。
   
   图像生成：用一个GPU生成一张1024 x 1024像素的图像同样消耗了1.7瓦时电能。
   
   视频生成：这是能耗最高的任务。即使只是生成一段6秒钟的标清视频，也需耗电20至110瓦时不等。” —WSJ