登录注册
请使用微信扫一扫
关注公众号完成登录
我要投稿
“下一个短缺的将是电力。”
不久前,围绕人工智能(AI)发展,特斯拉首席执行官马斯克发出这样的预警。
他表示,人工智能计算的约束条件是可预测的,“我在一年多前就预测过芯片短缺,下一个短缺的将是电力。我认为明年将没有足够的电力来运行所有的芯片。”
此外,OpenAI首席执行官山姆·奥特曼也表示,人工智能将消耗比人们预期更多的电力,未来的发展需要能源突破。
在人工智能飞速发展的背后,能源消耗问题也日益凸显,成为业内关注的焦点。甚至有人提出,“AI的尽头是算力,而算力的尽头是电力”。
那么,人工智能到底有多耗电?人工智能发展“缺电”了吗?面对能耗问题,我国又拿出了怎样的应对方案?
01
AI有多耗电?
当下人工智能大模型的竞争,颇像一场“算力军备竞赛”。在规模效应(Scaling Law)的驱动下,各公司通过不断增加模型参数和数据量,期待实现“大力出奇迹”,相应地,算力需求也成倍增加。
所谓算力,简单来理解,就是对数据或信息的处理能力。
算力是抽象的,它的载体却实在可见,就是以数据中心、智算中心为代表的算力基础设施。算力的背后,是电力在支撑。
你可以在脑海中想象这样一幅画面——在数据中心或智算中心,成千上万台服务器和芯片整齐列阵、昼夜不停地运转。
当下训练AI大模型使用的主流算力芯片英伟达H100芯片,一张最大功耗为700瓦,这意味着运行一小时就要耗电0.7度。而此前有消息称,OpenAI训练GPT-5,需要数万张H100芯片。
通过昼夜不息的数据中心,大家会对AI耗电有一个感性认识,而数据则更加直观。
以GPT-3的训练为例,GPT-3有1750亿个参数,据估计,训练过程使用了大约1287兆瓦时(也就是128.7万度)的电力。
该如何理解这个耗电量?这相当于美国约121个家庭一整年的用电量。也曾有专家打了这么一个比方,大概相当于3000辆特斯拉电动汽车共同开跑,每辆车跑20万英里。
GPT-3是在2020年发布的,很多人也许会问,更新的模型能耗如何呢?因为近年来不少AI科技公司不再公布训练细节,比如用了什么硬件、耗时多久,这使得能耗计算变得困难。
但GPT-3的能耗可以作为一个参考,GPT-3模型参数为1750亿,而GPT-4曾被曝包含1.8万亿参数,随着参数的翻倍,能耗也会大幅增加。
而以上的能耗还只限于训练阶段,完成训练后,AI将迎来新的耗电阶段——推理,也即人们使用AI输出结果的过程。
AI的训练是一次性事件,而使用却是长期过程,随着应用的普及、使用人数的增加,耗电量将不断叠加。
国际能源署(IEA)在今年1月的一份报告中曾表示,ChatGPT响应一个请求平均耗电2.9瓦时——相当于将一个60瓦的灯泡点亮略少于三分钟。
另外,据美媒报道,ChatGPT每天响应约2亿个需求,消耗超过50万度电力,相当于1.7万个美国家庭平均一天的用电量。
让我们做一道简单的数学题,GPT-3训练耗电约128万度,ChatGPT每天为响应需求耗电50万度,GPT-3在训练阶段消耗的电量,甚至无法支撑ChatGPT运行3天。
天长日久,耗电量可谓相当可观。
02
AI“缺电”了吗?
各种数据似乎都在说明,AI是一只“耗电巨兽”,那么下一个问题就是,它的胃口还能被满足吗?AI发展“缺电”了吗?
来让数据说话。
根据公开资料,2023年,美国全口径净发电量为41781.71亿千瓦时(1千瓦时=1度),以ChatGPT每天耗电50万度计算,按一年365天,耗电量约为18250万度,这也只占全美发电量的约0.0044%。
AI当然不只ChatGPT,但它的耗能数据可以作为一个切口。可以看出,尽管随着AI算力的迅猛增长,电力需求也持续增长,但目前其在整体电力消耗中所占比例较小。
既然如此,科技大佬们频频呼吁关注AI能耗问题,是在“贩卖焦虑”吗?其实不然。
波士顿咨询集团曾发布报告称,到2030年底,仅美国数据中心的用电量预计就将是2022年的三倍,而这一增幅主要来自AI模型训练和更高频的AI查询。
“AI发展‘缺电’并不是现在已经出现的问题,而是未来可能面临的问题。”
中国现代国际关系研究院国际安全所所长刘冲作出这样的判断。
他表示,目前AI发展的路线是不断增加模型参数、叠加芯片,如果继续按照这个路线发展,将来消耗的电力将更多,从这个角度来讲,未来AI的能耗问题可能会越来越突出,尤其是对于电力供应本身比较紧张的国家。但就目前而言,能源还没有成为限制AI发展的因素。
工信部信息通信经济专家委员会委员刘兴亮也表示,科技大佬预言AI“缺电”,可能是想让大家重视起这个问题,这只说明,AI确实耗电,电力成本也确实很高,但是目前能源问题还没有到影响AI 发展的程度。
刘兴亮同意未来可能面临的隐忧,如果继续无节制地扩大参数规模,并且伴随着用户越来越多,而能耗技术没有进步,耗电将很快成为一个问题。但与此同时,他也作出了比较乐观的展望,认为可以通过技术进步降低能耗。
可以说,AI缺电是一个未来可能面临的问题,而在这个问题真正到来前,一系列解决思路就已经在路上。
在需求方面,AI模型的优化,芯片效率和算法效率的提升,数据中心软硬件技术的进步,都有望减少AI的能耗。
回望过去或许可以帮助我们思考未来。
一项发表于《科学》期刊的研究指出,在2010年至2018年间,全球数据中心的运算量增长了550%,存储空间增长了2400%,但耗电量仅增长6%。
而在供应方面,电力问题涉及能源、基建、政策、技术等多个方面,难以通过简单的“有”或“没有”、“充足”或“不充足”来一言以蔽之。更多样化的能源组合、电力技术革新、国家调控等都将有助于应对这个问题。
比如,国际能源署(IEA)对清洁能源能起到的作用就相当乐观,其在一份报告中指出,预计到2026年底,包括可再生能源和核能在内的低碳能源将占全球发电量的46%,并可满足所有额外需求增长,其中就包括用电需求将翻番的人工智能。
总而言之,尽管短期内还不会出现AI缺电的问题,但相关的讨论确实给大力发展AI的世界提了个醒——随着AI大模型规模和数量的高速增长,未来可能面临的能源需求激增不容忽视。
03
AI耗电的中国解法之一
目前,我国算力总规模已经位居全球第二。
据我国权威机构测算,目前,全国数据中心总耗电量占全社会的2%,电力成本占数据中心总运营成本的50%。
中国信息通信研究院数据显示,预计到2030年,数据中心能耗总量将达3800亿千瓦时左右。
AI耗电,也是我国需要应对的问题。
我国在电力方面具有优势,已建成全球规模最大的电力供应系统和清洁发电体系,其中,水电、风电、光伏、生物质发电和在建核电规模多年位居世界第一。
值得一提的是,在提升具体的AI和电力相关技术外,我国在宏观层面的一个“解题思路”,也值得关注。
让我们从最近举行的一场青海推介会说起,推介会的主题是绿色算力产业发展。
我们知道,青海有着丰富的绿色电力资源,包括光电、风电、水电等。
截至2023年底,青海省清洁能源装机超过5100万千瓦,占比92.8%,发电量占比超84.5%。
但丰富的绿电面临“用不完又送不出”的问题——绿电的不稳定性导致很多无法送出,只能在本地消耗,但本地又用不完。
AI算力需要消耗大量电力,青海的绿电又用不完,如果把数据中心搬到青海,将“绿电”变为“绿算”,将绿色“瓦特”变为绿色“比特”,岂不是双向奔赴?
在中国电信(国家)数字青海绿色大数据中心,通过风光水等清洁能源的互补,已经实现了数据中心的100%清洁能源供应。
而且,数据中心建到青海,不仅能解决电力问题,还能大大降低散热能耗。青海气候干燥、冷凉,数据中心可实现全年314天自然冷却,制冷用电比全国平均水平低40%左右。
这样得天独厚的条件,青海当然要自信推介。
在这方面,还有一位先行者,就是同样具有电力和气候优势的贵州。
作为全球超大型数据中心集聚最多的地区之一,贵州正在人工智能的赛道上迈开步伐奔跑。
国家级人工智能训练场落户贵州贵阳;贵州省与深圳市签订算力协同发展战略合作协议;华为云计算与贵安新区合作打造全球领先的智算中心;华为云盘古、讯飞星火两个基础大模型启动在贵州产业化项目;贵州与浙江联合打造文旅宣传虚拟数字人“杭小忆”……
去年,贵州部署智算芯片达8万张,总算力规模增长28.8倍。贵州的目标是,面向东部模型训练,提供低成本、高品质、易使用的算力服务。
在贵州和青海绿色算力产业蓬勃发展的背后,是一个更为浩大的工程——“东数西算”工程。
“东数西算”工程的基本逻辑是——
受土地、水电、运维等要素影响,东部地区数据中心的运营成本较高。
而在广大西部地区,可再生能源、清洁能源、土地资源相对丰富,优越的气候条件还能降低数据中心运行能耗、减少碳排放。
因此,引导数据中心向西部资源丰富地区聚集,既能推动西部地区数据中心低碳、绿色、可持续发展,又能满足东部地区的算力需求。
早在2021年5月,相关部门就明确提出实施“东数西算”工程。
2022年2月,国家发展改革委等部门联合印发通知,同意在内蒙古、贵州、甘肃、宁夏等8地启动建设国家算力枢纽节点,并规划了10个国家数据中心集群。“东数西算”工程正式全面启动。
2023年12月,《深入实施“东数西算”工程 加快构建全国一体化算力网的实施意见》发布,首次提出“算力电力协同”。
什么是“算力电力协同”?
一方面,数据中心的高效运转离不开大量电力支撑;另一方面,电力系统的平稳高效运行也离不开算力支撑。统筹算力电力协同布局,有助于促进风光绿电消纳和数据中心零碳发展。
我们当然要看到,客观上,由于网络时延等限制存在,并非所有算力服务场景都适用“东数西算”。比如自动驾驶、证券交易等低时延业务场景就需要就近计算。
然而,人工智能模型训练推理这样高时延业务场景,正好是“东数西算”的“舒适区”,“东数西训”成为“东数西算”的典型应用场景。
近年来,人工智能带来的能耗问题引发广泛讨论,而我国早在2021年就开始布局“东数西算”,这无疑极具前瞻性,也大大助力了我国在此轮算力竞赛中占得优势。
眼下,各地人工智能方面的“东数西算”项目都在提速中。
北京首都在线与甘肃省庆阳市签订人工智能产业合作框架协议;百度智能云与成都高新区签订战略合作签约仪式,打造大模型产业……
今年以来,还涌现出了新事物——“算力券”和“算力卡”。
北京、贵州、甘肃庆阳等多地纷纷面向企业、高校、科研机构等发放“算力券”,降低使用算力的成本,来支持人工智能产业发展。
此外,有运营商已经面向普通消费者推出了“算力卡”。相关业务负责人表示,未来,算力服务也会成为像流量、宽带一样的大众化产品。
可以想见,未来,人工智能将深度融入我们的生活,能耗问题值得关注,但大可不必杞人忧天。相比于担心能源问题如何限制技术发展,思考如何用技术发展应对能源问题,是更为积极的态度。
特别声明:北极星转载其他网站内容,出于传递更多信息而非盈利之目的,同时并不代表赞成其观点或证实其描述,内容仅供参考。版权归原作者所有,若有侵权,请联系我们删除。
凡来源注明北极星*网的内容为北极星原创,转载需获授权。
4月19日,以“新质生产力引领新赛道”为主题的第九届中国能源发展与创新论坛在京召开。四川省人大常委、国能大渡河流域发电有限公司一级业务总监涂扬举在主题演讲中称,日新月异的多模态人工智能(AI)技术将给能源企业的智慧化转型提供更多的新机遇、新手段。近年来,多模态AI已经广泛应用于自然语言
科技向善,利成于益。2024年4月22日,由微软举办的第五届AIforEarth世界地球日活动圆满落幕,一场聚焦于AI与可再生能源融合发展的分享交流引人瞩目。固德威可持续发展研究院院长张可男博士受邀出席活动,以“AI驱动的供应链,可再生能源与数字化双转型”为主题进行分享交流。AI时代,人工智能正在改变
4月20日科远智慧在互动平台表示,公司目前尚未直接用AI技术赋能储能环节,不过公司在源网荷储方面有着较为成熟的解决方案与应用案例。
4月13日,以“发展储能新质生产力,开创能源转型新格局”为主题的第十二届储能国际峰会暨展览会(ESIE2024)在北京首钢会展中心圆满落幕。数万名行业同仁齐聚展会,共探储能产业发展。业内外众多志同道合的新老客商来到采日能源展位进行了深入交流。在这片储能蓝海中,采日能源将携手各方伙伴,共同开
4月15日,新能源汽车在充电站充电。日前,位于福建省福州市鼓楼区乌山西路的福州首座AI微网超充站投入运营。这座AI微网超充站集光伏、储能、大功率超充、V2G(车网互动)反向放电、电池检测、AI无人值守于一体,电动汽车用户在此可感受前沿科技带来的新奇体验。
北极星输配电网获悉,4月3日,山西500千伏及以上输电线路工程首次采用无人机AI自主验收。据悉,此次无人机验收拍摄了输电线路杆塔、金具、绝缘子串等部位的实时安装状态,精准扫描了导地线相间距离、线路走廊的树木生长、地理环境、交叉跨越等情况。该工程将于2024年4月底投产,“西电东送”通道调整系
目前,电网所需的数据颗粒度和丰富度远远不足,所训练出来的AI缺少智能化,在加上AI的结果不可解释性,怎么可能把复杂且重要的任务交给它?这几天又被英伟达刷屏,最近仿佛世界上只有英伟达、OpenAI和特斯拉三家公司。3月18日,英伟达GTC2024大会再次召开,创始人黄仁勋发布全球最强AI芯片。生成式AI彻
2024年3月19日,英伟达CEO黄仁勋在美国加州圣何塞SAP中心发表主题演讲《见证AI的变革时刻》,正式拉开了2024年英伟达GTC大会的序幕。宇树(Unitree)通用人形机器人H1在大会亮相,与英伟达一起推动全球AI机器人的深度进化。UnitreeH1前段时间刚刚以每秒3.3米的运动速度创下了全尺寸人形机器人速度的世
近日,金风科技人工智能应用研究院(以下简称AI应用研究院)正式揭牌。该研究院旨在利用人工智能提升数智化能力,实现创新技术突破,挖掘清洁能源行业发展新动能。人工智能已经成为当今时代最受关注的创新技术,其强大的机器学习、仿真模拟、数据处理等能力,为人类呈现了“下一场工业革命”的可能。在
为呈现AI原生研发和应用成效,提供AI原生相关技术、服务、部署、运营、基础设施等选型参考,近期,中国信息通信研究院发布了AI原生技术及应用优秀案例,由南方电网公司输配电部牵头、南方电网科学研究院有限责任公司(以下简称“南网科研院”)负责设计与研发、百度智能云提供支撑的AI原生应用“南方电
为进一步发挥青海高原资源能源优势,推动绿色电力向绿色算力转化,主动承接“东数西算”“东数西存”“东数西训”,打造立足西部服务全国的青海绿色算力基地,因地制宜推动绿色算力成为青海省的重要新质生产力,助力高质量发展。创新电力算力协同机制,开展算力电力联合调度协同试点,在绿色算力产业领
以数据中心为代表的算力基础设施,正在成为支撑数字经济“上云、用数、赋智”的物理底座。数据中心的高耗能属性、算力基础设施的网络属性、算力服务未来的公共属性,使得算力与电力间存在深刻联系。随着2022年2月旨在优化国土空间算力基础设施布局的“东数西算”工程正式启动,横贯东西部8个算力枢纽节
加强以数据中心为代表的新型基础设施节能降碳,推动数据中心使用绿色能源供电,不仅可以促进通信业节能减排,还可以促进能源绿色低碳转型,推动新型电力系统建设,实现“双碳”目标下的“算力+电力”协同。
北极星储能网获悉,3月12日,河南省数字经济发展领导小组发布关于印发《2024年河南省数字经济发展工作方案》(以下简称《方案》)的通知。《方案》指出,全面升级融合基础设施。新建公共服务领域充电桩2万个,进一步完善覆盖市、县、乡三级的公共充电网络,推动各类充电基础设施接入省充电智能服务平台
加快推进数能融合支撑“东数西算”“双碳”任务落地——访全国政协委员,中国能源建设集团有限公司党委书记、董事长宋海良“双碳”目标下,数据与能源是推动经济社会发展的两大关键要素,如何深刻理解数能融合意义?数能融合发展还应加快完善哪些方面?全国政协委员,中国能源建设集团有限公司党委书记
近日,庆阳市人民政府办公室发布了关于国家数据中心集群(甘肃·庆阳)“东数西算”产业园区数据中心建设指南的通知。庆阳市人民政府办公室关于国家数据中心集群(甘肃·庆阳)“东数西算”产业园区数据中心建设指南的通知各县(区)人民政府,市政府各部门,市管工业园区(集中区)管委会,中、省驻庆
中国国家数据局26日发布消息称,中国国家发改委、国家数据局、中央网信办、工业和信息化部、国家能源局近日联合印发了《深入实施“东数西算”工程加快构建全国一体化算力网的实施意见》(下称《实施意见》),提出推动建设联网调度、普惠易用、绿色安全的全国一体化算力网。根据《实施意见》所给出的时间
北极星输配电网获悉,12月21日,粤港澳大湾区韶关数据中心集群首座配套220千伏变电站——“数据1变电站”正式投产,建成投产后,将可以满足36万千瓦负荷、约8万台标准机架(单个标准机架容量2.5千瓦)新增接入双回路用电需求。工程投产标志着粤港澳大湾区国家枢纽节点建设迈出了实质性的关键一步。
“庆阳首倡‘数算电融合’发展新路径,一手抓算力建设,一手抓算力消纳。”甘肃省庆阳市委副书记、市长周继军20日表示,庆阳大力推进“东数西算”工程由建算力、聚数据、育生态向数算电融合演进,率先谋划布局数算电融合产业体系。在全国一体化算力网络国家枢纽甘肃节点启动建设两周年之际,以“中国算
北极星电力软件网获悉,11月13日,广东省人民政府发布关于加快建设通用人工智能产业创新引领地的实施意见。意见指出,在搭建“中国算力网”中发挥核心作用,实现国家公共算力开放创新平台、智算中心等大型异构算力中心互联互通。推动国家算力总调度中心、粤港澳大湾区算力调度中心加快落地深圳、韶关。
北极星电力软件网获悉,10月31日,国务院发布关于印发《中国(新疆)自由贸易试验区总体方案》(以下简称《方案》)的通知。《方案》明确,提升科技服务能力和合作水平。推动在风力发电等领域建设国家技术创新中心,持续推动“一带一路”联合实验室建设。布局建设具有区域特色的新疆实验室,优化提升自
聚焦3060系统解决方案“一个中心”储能、氢能“两个支撑点”加快以创新为引领的绿色化、数智化、融合化“一创三转”的探索实践“能知道”系列科普融媒体作品持续上新今天中国能建广东院工程师带你了解“东数西算”工程近年来我国全社会数据总量爆发式增长数据存储、计算、传输、应用需求大幅提升对算力
北极星储能网获悉,9月19日,内蒙古自治区工业和信息化厅等六部门发布推动能源电子产业发展实施意见的通知。其中提到,建立储能系统安全分级评估体系,发展基于运行数据驱动和先进人工智能算法的储能系统安全状态动态智能评估技术。并且鼓励储能电站定制安全保险,强化安全设施配置,制定完善专业人员
请使用微信扫一扫
关注公众号完成登录
姓名: | |
性别: | |
出生日期: | |
邮箱: | |
所在地区: | |
行业类别: | |
工作经验: | |
学历: | |
公司名称: | |
任职岗位: |
我们将会第一时间为您推送相关内容!