登录注册
请使用微信扫一扫
关注公众号完成登录
我要投稿
“下一个短缺的将是电力。”
不久前,围绕人工智能(AI)发展,特斯拉首席执行官马斯克发出这样的预警。
他表示,人工智能计算的约束条件是可预测的,“我在一年多前就预测过芯片短缺,下一个短缺的将是电力。我认为明年将没有足够的电力来运行所有的芯片。”
此外,OpenAI首席执行官山姆·奥特曼也表示,人工智能将消耗比人们预期更多的电力,未来的发展需要能源突破。
在人工智能飞速发展的背后,能源消耗问题也日益凸显,成为业内关注的焦点。甚至有人提出,“AI的尽头是算力,而算力的尽头是电力”。
那么,人工智能到底有多耗电?人工智能发展“缺电”了吗?面对能耗问题,我国又拿出了怎样的应对方案?
01
AI有多耗电?
当下人工智能大模型的竞争,颇像一场“算力军备竞赛”。在规模效应(Scaling Law)的驱动下,各公司通过不断增加模型参数和数据量,期待实现“大力出奇迹”,相应地,算力需求也成倍增加。
所谓算力,简单来理解,就是对数据或信息的处理能力。
算力是抽象的,它的载体却实在可见,就是以数据中心、智算中心为代表的算力基础设施。算力的背后,是电力在支撑。
你可以在脑海中想象这样一幅画面——在数据中心或智算中心,成千上万台服务器和芯片整齐列阵、昼夜不停地运转。
当下训练AI大模型使用的主流算力芯片英伟达H100芯片,一张最大功耗为700瓦,这意味着运行一小时就要耗电0.7度。而此前有消息称,OpenAI训练GPT-5,需要数万张H100芯片。
通过昼夜不息的数据中心,大家会对AI耗电有一个感性认识,而数据则更加直观。
以GPT-3的训练为例,GPT-3有1750亿个参数,据估计,训练过程使用了大约1287兆瓦时(也就是128.7万度)的电力。
该如何理解这个耗电量?这相当于美国约121个家庭一整年的用电量。也曾有专家打了这么一个比方,大概相当于3000辆特斯拉电动汽车共同开跑,每辆车跑20万英里。
GPT-3是在2020年发布的,很多人也许会问,更新的模型能耗如何呢?因为近年来不少AI科技公司不再公布训练细节,比如用了什么硬件、耗时多久,这使得能耗计算变得困难。
但GPT-3的能耗可以作为一个参考,GPT-3模型参数为1750亿,而GPT-4曾被曝包含1.8万亿参数,随着参数的翻倍,能耗也会大幅增加。
而以上的能耗还只限于训练阶段,完成训练后,AI将迎来新的耗电阶段——推理,也即人们使用AI输出结果的过程。
AI的训练是一次性事件,而使用却是长期过程,随着应用的普及、使用人数的增加,耗电量将不断叠加。
国际能源署(IEA)在今年1月的一份报告中曾表示,ChatGPT响应一个请求平均耗电2.9瓦时——相当于将一个60瓦的灯泡点亮略少于三分钟。
另外,据美媒报道,ChatGPT每天响应约2亿个需求,消耗超过50万度电力,相当于1.7万个美国家庭平均一天的用电量。
让我们做一道简单的数学题,GPT-3训练耗电约128万度,ChatGPT每天为响应需求耗电50万度,GPT-3在训练阶段消耗的电量,甚至无法支撑ChatGPT运行3天。
天长日久,耗电量可谓相当可观。
02
AI“缺电”了吗?
各种数据似乎都在说明,AI是一只“耗电巨兽”,那么下一个问题就是,它的胃口还能被满足吗?AI发展“缺电”了吗?
来让数据说话。
根据公开资料,2023年,美国全口径净发电量为41781.71亿千瓦时(1千瓦时=1度),以ChatGPT每天耗电50万度计算,按一年365天,耗电量约为18250万度,这也只占全美发电量的约0.0044%。
AI当然不只ChatGPT,但它的耗能数据可以作为一个切口。可以看出,尽管随着AI算力的迅猛增长,电力需求也持续增长,但目前其在整体电力消耗中所占比例较小。
既然如此,科技大佬们频频呼吁关注AI能耗问题,是在“贩卖焦虑”吗?其实不然。
波士顿咨询集团曾发布报告称,到2030年底,仅美国数据中心的用电量预计就将是2022年的三倍,而这一增幅主要来自AI模型训练和更高频的AI查询。
“AI发展‘缺电’并不是现在已经出现的问题,而是未来可能面临的问题。”
中国现代国际关系研究院国际安全所所长刘冲作出这样的判断。
他表示,目前AI发展的路线是不断增加模型参数、叠加芯片,如果继续按照这个路线发展,将来消耗的电力将更多,从这个角度来讲,未来AI的能耗问题可能会越来越突出,尤其是对于电力供应本身比较紧张的国家。但就目前而言,能源还没有成为限制AI发展的因素。
工信部信息通信经济专家委员会委员刘兴亮也表示,科技大佬预言AI“缺电”,可能是想让大家重视起这个问题,这只说明,AI确实耗电,电力成本也确实很高,但是目前能源问题还没有到影响AI 发展的程度。
刘兴亮同意未来可能面临的隐忧,如果继续无节制地扩大参数规模,并且伴随着用户越来越多,而能耗技术没有进步,耗电将很快成为一个问题。但与此同时,他也作出了比较乐观的展望,认为可以通过技术进步降低能耗。
可以说,AI缺电是一个未来可能面临的问题,而在这个问题真正到来前,一系列解决思路就已经在路上。
在需求方面,AI模型的优化,芯片效率和算法效率的提升,数据中心软硬件技术的进步,都有望减少AI的能耗。
回望过去或许可以帮助我们思考未来。
一项发表于《科学》期刊的研究指出,在2010年至2018年间,全球数据中心的运算量增长了550%,存储空间增长了2400%,但耗电量仅增长6%。
而在供应方面,电力问题涉及能源、基建、政策、技术等多个方面,难以通过简单的“有”或“没有”、“充足”或“不充足”来一言以蔽之。更多样化的能源组合、电力技术革新、国家调控等都将有助于应对这个问题。
比如,国际能源署(IEA)对清洁能源能起到的作用就相当乐观,其在一份报告中指出,预计到2026年底,包括可再生能源和核能在内的低碳能源将占全球发电量的46%,并可满足所有额外需求增长,其中就包括用电需求将翻番的人工智能。
总而言之,尽管短期内还不会出现AI缺电的问题,但相关的讨论确实给大力发展AI的世界提了个醒——随着AI大模型规模和数量的高速增长,未来可能面临的能源需求激增不容忽视。
03
AI耗电的中国解法之一
目前,我国算力总规模已经位居全球第二。
据我国权威机构测算,目前,全国数据中心总耗电量占全社会的2%,电力成本占数据中心总运营成本的50%。
中国信息通信研究院数据显示,预计到2030年,数据中心能耗总量将达3800亿千瓦时左右。
AI耗电,也是我国需要应对的问题。
我国在电力方面具有优势,已建成全球规模最大的电力供应系统和清洁发电体系,其中,水电、风电、光伏、生物质发电和在建核电规模多年位居世界第一。
值得一提的是,在提升具体的AI和电力相关技术外,我国在宏观层面的一个“解题思路”,也值得关注。
让我们从最近举行的一场青海推介会说起,推介会的主题是绿色算力产业发展。
我们知道,青海有着丰富的绿色电力资源,包括光电、风电、水电等。
截至2023年底,青海省清洁能源装机超过5100万千瓦,占比92.8%,发电量占比超84.5%。
但丰富的绿电面临“用不完又送不出”的问题——绿电的不稳定性导致很多无法送出,只能在本地消耗,但本地又用不完。
AI算力需要消耗大量电力,青海的绿电又用不完,如果把数据中心搬到青海,将“绿电”变为“绿算”,将绿色“瓦特”变为绿色“比特”,岂不是双向奔赴?
在中国电信(国家)数字青海绿色大数据中心,通过风光水等清洁能源的互补,已经实现了数据中心的100%清洁能源供应。
而且,数据中心建到青海,不仅能解决电力问题,还能大大降低散热能耗。青海气候干燥、冷凉,数据中心可实现全年314天自然冷却,制冷用电比全国平均水平低40%左右。
这样得天独厚的条件,青海当然要自信推介。
在这方面,还有一位先行者,就是同样具有电力和气候优势的贵州。
作为全球超大型数据中心集聚最多的地区之一,贵州正在人工智能的赛道上迈开步伐奔跑。
国家级人工智能训练场落户贵州贵阳;贵州省与深圳市签订算力协同发展战略合作协议;华为云计算与贵安新区合作打造全球领先的智算中心;华为云盘古、讯飞星火两个基础大模型启动在贵州产业化项目;贵州与浙江联合打造文旅宣传虚拟数字人“杭小忆”……
去年,贵州部署智算芯片达8万张,总算力规模增长28.8倍。贵州的目标是,面向东部模型训练,提供低成本、高品质、易使用的算力服务。
在贵州和青海绿色算力产业蓬勃发展的背后,是一个更为浩大的工程——“东数西算”工程。
“东数西算”工程的基本逻辑是——
受土地、水电、运维等要素影响,东部地区数据中心的运营成本较高。
而在广大西部地区,可再生能源、清洁能源、土地资源相对丰富,优越的气候条件还能降低数据中心运行能耗、减少碳排放。
因此,引导数据中心向西部资源丰富地区聚集,既能推动西部地区数据中心低碳、绿色、可持续发展,又能满足东部地区的算力需求。
早在2021年5月,相关部门就明确提出实施“东数西算”工程。
2022年2月,国家发展改革委等部门联合印发通知,同意在内蒙古、贵州、甘肃、宁夏等8地启动建设国家算力枢纽节点,并规划了10个国家数据中心集群。“东数西算”工程正式全面启动。
2023年12月,《深入实施“东数西算”工程 加快构建全国一体化算力网的实施意见》发布,首次提出“算力电力协同”。
什么是“算力电力协同”?
一方面,数据中心的高效运转离不开大量电力支撑;另一方面,电力系统的平稳高效运行也离不开算力支撑。统筹算力电力协同布局,有助于促进风光绿电消纳和数据中心零碳发展。
我们当然要看到,客观上,由于网络时延等限制存在,并非所有算力服务场景都适用“东数西算”。比如自动驾驶、证券交易等低时延业务场景就需要就近计算。
然而,人工智能模型训练推理这样高时延业务场景,正好是“东数西算”的“舒适区”,“东数西训”成为“东数西算”的典型应用场景。
近年来,人工智能带来的能耗问题引发广泛讨论,而我国早在2021年就开始布局“东数西算”,这无疑极具前瞻性,也大大助力了我国在此轮算力竞赛中占得优势。
眼下,各地人工智能方面的“东数西算”项目都在提速中。
北京首都在线与甘肃省庆阳市签订人工智能产业合作框架协议;百度智能云与成都高新区签订战略合作签约仪式,打造大模型产业……
今年以来,还涌现出了新事物——“算力券”和“算力卡”。
北京、贵州、甘肃庆阳等多地纷纷面向企业、高校、科研机构等发放“算力券”,降低使用算力的成本,来支持人工智能产业发展。
此外,有运营商已经面向普通消费者推出了“算力卡”。相关业务负责人表示,未来,算力服务也会成为像流量、宽带一样的大众化产品。
可以想见,未来,人工智能将深度融入我们的生活,能耗问题值得关注,但大可不必杞人忧天。相比于担心能源问题如何限制技术发展,思考如何用技术发展应对能源问题,是更为积极的态度。
特别声明:北极星转载其他网站内容,出于传递更多信息而非盈利之目的,同时并不代表赞成其观点或证实其描述,内容仅供参考。版权归原作者所有,若有侵权,请联系我们删除。
凡来源注明北极星*网的内容为北极星原创,转载需获授权。
9月5日至7日,远光软件受邀参加第六届未来能源大会并作主题演讲,分享公司在应用AI技术驱动绿色能源数智化转型方面的最新成果与实践,致力于携手行业伙伴共同推动能源转型与经济高质量发展。AI技术布局驱动能源行业数智化转型远光软件人工智能事业部总经理张永铅代表公司发表题为《AI赋能绿色能源数智
前两年参加某AI活动,一位国家电网的专家分享道:“领导嘱托我一定要来跟大家做一个分享,电力行业虽然已经有百年传统,但我们国家电网非常渴望技术创新,非常渴望将AI在这么大的电力系统中去应用。”为什么电力行业对智能化的需求如此迫切?因为时间紧,任务重。以新型电力系统支撑碳达峰、碳中和,是
据天眼查显示,近日,华东勘测设计院(秦皇岛)有限公司成立,法定代表人为骆光杰,注册资本为1000万元,经营范围包含:建设工程设计;建设工程施工;建设工程勘察;水利工程建设监理;人工智能应用软件开发;5G通信技术服务等。企查查股权穿透显示,该公司由中国电建间接全资持股。
近日,2024年电力信息通信新技术大会在北京圆满落幕。远光软件在大会“电力人工智能技术创新应用专题会议”上作主题报告,分享AI赋能电力企业数智化发展的创新成果与实践案例。远光软件人工智能事业部总经理张永铅表示,远光软件自2015年就开始启动对人工智能技术的研究,致力于“为企业打造人机共进的
如今,我们在生活和工作中,随处可见人工智能(AI)的身影。电网领域也不例外。很多人工智能“小伙伴”纷纷加入迎峰度夏电力保供战,包括在电力调度控制——这个保障电力可靠供应、电网安全稳定、清洁能源消纳的关键环节。看,一批人工智能调度员们正列队朝我们走来!浙江虚拟数字“智慧调度员”、全能
“一工区注意,500千伏陕瀛线通道附近的临建施工活动范围正在扩大,请运维人员尽快前往现场采取管控措施。”8月9日,国网河南送变电建设有限公司生产管控中心运维人员运用基于AI技术的通道风险管控系统,成功处置了一起输电线路线下违章施工的安全事件,保障了河南电网主干网架安全稳定运行。专业模型
北极星太阳能光伏网获悉,8月15日,江山控股发布公告称,公司全资附属公司深圳市江天永健科技有限公司拟认购北京思博慧医科技有限公司总股权的20%,认购价为人民币3600万元;及拟向QUBOTHoldingsLimited收购北京思博慧医科技有限公司紧随认购事项后总股权的10%,总代价为人民币1400万元。因此,于认购
8月15日,中国核电旗下秦山核电数字化转型专项——“知识管理平台(i-知识)”研发项目通过行业专家鉴定,标志着中国核电首个基于AI大模型的知识管理平台研发成功,为中国核电知识管理平台建设打下了良好基础。来自中核集团总部、中国核建、红沿河核电、江苏核电、核电运行研究院等单位的资深专家参加
8月7日,南网总调电力系统AI基础训练设施关键技术项目(课题1、课题2)中标候选人公示(采购编号:CG0000022001643910)。中标候选人分别是南方电网人工智能科技有限公司、北京百度网讯科技有限公司。
“大瓦特”是什么?专为电力系统设计的电力行业自主可控大模型,具备意图识别、多轮对话、总结提炼、自动生成巡检报告、可视化数据服务等能力。大瓦特包括NLP(自然语言处理)大模型、CV(计算机视觉)大模型和科学计算大模型。“大瓦特”有何特点?大瓦特除了使用海量的世界知识进行训练外,还使用了大量
评标工作是企业采购流程中的关键环节,其效率与精准性直接关系到企业的成本控制、质量保证、风险管理及战略部署。面对海量投标标书,传统的人工评审方式不仅耗时耗力,更因任务繁重而易于出错。远光软件凭借前沿的AI技术,特别是“大模型+本地知识库”的深度融合,为企业打造了一位高效、精准的“AI评
在数字经济时代,算力是新质生产力的重要代表,事关国家核心竞争力。发展以高绿电供给比例为关键特征的绿色算力,是实现算力产业高质量发展、推动能源低碳转型的关键举措,将为促进经济社会发展全面绿色转型提供有力支撑。算力成为电力需求重要增长点近年来,伴随文本、图像、视频等多媒体生成式人工智
北极星售电网获悉,湖南省人民政府近日发布了关于印发《湖南省2024年数据和政务服务管理工作要点》的通知,其中提到,创新算力电力协同机制,支持算力中心、数据中心参与绿电交易。详情如下:湖南省人民政府办公厅关于印发《湖南省2024年数据和政务服务管理工作要点》的通知湘政办发〔2024〕17号各市州
为进一步发挥青海高原资源能源优势,推动绿色电力向绿色算力转化,主动承接“东数西算”“东数西存”“东数西训”,打造立足西部服务全国的青海绿色算力基地,因地制宜推动绿色算力成为青海省的重要新质生产力,助力高质量发展。创新电力算力协同机制,开展算力电力联合调度协同试点,在绿色算力产业领
以数据中心为代表的算力基础设施,正在成为支撑数字经济“上云、用数、赋智”的物理底座。数据中心的高耗能属性、算力基础设施的网络属性、算力服务未来的公共属性,使得算力与电力间存在深刻联系。随着2022年2月旨在优化国土空间算力基础设施布局的“东数西算”工程正式启动,横贯东西部8个算力枢纽节
加强以数据中心为代表的新型基础设施节能降碳,推动数据中心使用绿色能源供电,不仅可以促进通信业节能减排,还可以促进能源绿色低碳转型,推动新型电力系统建设,实现“双碳”目标下的“算力+电力”协同。
走进内蒙古自治区呼和浩特市和林格尔新区的中国移动智算中心(呼和浩特),载满智算服务器的一排排黑色机柜发出嗡嗡作业声,指示灯不时闪烁,该中心智能算力规模高达每秒670亿亿次浮点运算次数,填补了我国人工智能广泛应用于交通、医疗等领域所需算力的缺口。近年来,呼和浩特市在国家“东数西算”工
国家数据局数字科技和基础设施建设司司长杜巍7月22日表示,两年来,在相关部门和各枢纽节点的共同努力下,“东数西算”工程取得积极进展。“东数西算”工程的实施带动了IT设备制造、信息通信、基础软件、绿色能源等产业链发展,提升了国家整体算力水平。7月22日,国务院新闻办公室举行“推动高质量发展
眼下,内蒙古自治区呼和浩特市和林格尔新区前石门村已十分炎热。烈日下,几十名工人揩着汗水,加紧安装光伏板和支架。今年初,内蒙古华电新能源分公司在此开建36万千瓦光伏和风力发电项目,年底投入使用后,将进一步增强和林格尔数据中心集群的绿电供给。内蒙古是8个国家算力枢纽节点之一,拥有和林格
易事特集团“东数西算”数字算力中心(庆阳环县)装备制造基地于近日正式投产,标志着集团在数字能源领域翻开崭新一页。以智赋能数启未来项目位于甘肃省庆阳市环县城南工业园,按照“工业4.0”的运营理念设计,通过引入先进智能制造设备和技术,高标准、高品质打造自动化、智能化、低碳化制造产线。主
北极星储能网获悉,3月12日,河南省数字经济发展领导小组发布关于印发《2024年河南省数字经济发展工作方案》(以下简称《方案》)的通知。《方案》指出,全面升级融合基础设施。新建公共服务领域充电桩2万个,进一步完善覆盖市、县、乡三级的公共充电网络,推动各类充电基础设施接入省充电智能服务平台
加快推进数能融合支撑“东数西算”“双碳”任务落地——访全国政协委员,中国能源建设集团有限公司党委书记、董事长宋海良“双碳”目标下,数据与能源是推动经济社会发展的两大关键要素,如何深刻理解数能融合意义?数能融合发展还应加快完善哪些方面?全国政协委员,中国能源建设集团有限公司党委书记
近日,庆阳市人民政府办公室发布了关于国家数据中心集群(甘肃·庆阳)“东数西算”产业园区数据中心建设指南的通知。庆阳市人民政府办公室关于国家数据中心集群(甘肃·庆阳)“东数西算”产业园区数据中心建设指南的通知各县(区)人民政府,市政府各部门,市管工业园区(集中区)管委会,中、省驻庆
中国国家数据局26日发布消息称,中国国家发改委、国家数据局、中央网信办、工业和信息化部、国家能源局近日联合印发了《深入实施“东数西算”工程加快构建全国一体化算力网的实施意见》(下称《实施意见》),提出推动建设联网调度、普惠易用、绿色安全的全国一体化算力网。根据《实施意见》所给出的时间
北极星输配电网获悉,12月21日,粤港澳大湾区韶关数据中心集群首座配套220千伏变电站——“数据1变电站”正式投产,建成投产后,将可以满足36万千瓦负荷、约8万台标准机架(单个标准机架容量2.5千瓦)新增接入双回路用电需求。工程投产标志着粤港澳大湾区国家枢纽节点建设迈出了实质性的关键一步。
“庆阳首倡‘数算电融合’发展新路径,一手抓算力建设,一手抓算力消纳。”甘肃省庆阳市委副书记、市长周继军20日表示,庆阳大力推进“东数西算”工程由建算力、聚数据、育生态向数算电融合演进,率先谋划布局数算电融合产业体系。在全国一体化算力网络国家枢纽甘肃节点启动建设两周年之际,以“中国算
请使用微信扫一扫
关注公众号完成登录
姓名: | |
性别: | |
出生日期: | |
邮箱: | |
所在地区: | |
行业类别: | |
工作经验: | |
学历: | |
公司名称: | |
任职岗位: |
我们将会第一时间为您推送相关内容!