大模型为何成耗能大户
随着人工智能技术快速发展,人工智能(AI)大模型的运行消耗问题受到越来越多关注。大模型为何成了耗能大户?能耗问题会不会成为人工智能发展的“绊脚石”?如何解决能耗问题?
耗电耗水量大
(资料图片)
人工智能大模型到底有多耗能?据斯坦福人工智能研究所发布的《2023年AI指数报告》,AI大语言模型GPT-3一次训练的耗电量为1287兆瓦时,大概相当于3000辆特斯拉电动汽车共同开跑、每辆车跑20万英里所耗电量的总和。报告同时提出,AI大语言模型GPT-3一次训练,相当于排放了552吨二氧化碳。
国外研究显示,一次标准谷歌搜索耗电0.3瓦时,AI大语言模型ChatGPT响应一次用户请求耗电约2.96瓦时,在AI大模型驱动下的一次谷歌搜索耗电8.9瓦时。
除了耗电,另有研究显示,AI大语言模型GPT-3在训练期间耗水近700吨,每回答20个至50个问题就要消耗500毫升水。弗吉尼亚理工大学研究指出,Meta公司在2022年使用了超过260万立方米的水,主要作用是为数据中心提供冷却。
据了解,人工智能大模型GPT-4的主要参数是GPT-3的20倍,计算量是GPT-3的10倍,能耗也随之大幅增加。
华泰证券研报预测,到2030年,中国与美国的数据中心总用电量将分别达到0.65万亿千瓦时至0.95万亿千瓦时、1.2万亿千瓦时至1.7万亿千瓦时,是2022年的3.5倍和6倍以上。届时,AI用电量将达到2022年全社会用电量的20%和31%。
为何如此耗能
为什么人工智能大模型如此耗能?AI技术迅速发展,对芯片的需求急剧增加,进而带动电力需求激增。同时,对AI进行大量训练,也意味着需要更强的算力中心和与之匹配的散热能力。在AI快速迭代的道路上,电力和水资源的消耗也在快速增加。因为很多数据中心全年无休,发热量巨大,大规模电耗和水耗主要来自于冷却需求。
相关统计显示,数据中心运行成本的六成是电费,而电费里的四成多来自冷却散热,相应也会带来巨量冷却水的消耗。风冷数据中心六成多的耗电量都会用在风冷上,只有不到四成电力用在实际计算上。如今,全球数据中心市场耗电量是10年前的近10倍。
能耗问题会不会成为人工智能发展的“绊脚石”?英伟达首席执行官黄仁勋曾提到,AI和算力耗能巨大,但由于计算机性能飞速增长,计算会更加高效,相当于更节省能源。当前,我国实施严格的能耗双控政策,无论是AI大模型本身还是其应用行业,对单位GDP能耗来说均有明显降低作用。
从整体能耗来看,AI大模型带来的效率提升也会抵消一部分能耗增长。随着绿电广泛应用,再加上我国逐步由能耗双控向碳排放双控政策转变,可再生能源对未来AI大模型发展的支撑能力也会越来越强。
此外,相较于其他国家而言,中美等能源消费大国和数据大国,具备更好发展AI大模型的资源条件和基础。
怎样应对挑战
据预测,到2025年,AI相关业务在全球数据中心用电量中的占比将从2%增加至10%。到2030年,智能计算年耗电量将达到5000亿千瓦时,占全球发电总量的5%。因此,在大力发展AI大模型的同时,必须提前做好相关规划布局,以提供必要的电力和水资源等技术支撑。
有专家认为,人工智能的未来发展与状态和储能紧密相连。因此,不应仅关注计算力,而是需要更全面地考虑能源消耗问题。OpenAI创始人奥尔特曼认为,未来AI技术取决于能源突破,更绿色的能源尤其是核聚变或更便宜的太阳能以及储能的可获得性,是人工智能发展快慢的重要因素。
为降低电力和水资源消耗,很多企业在尝试采用各种方法为数据中心散热。例如,微软曾尝试部署海下数据中心,脸书(Facebook)数据中心选址北极圈附近,阿里云千岛湖数据中心使用深层湖水制冷等,我国很多企业则把数据中心布局在水电资源丰富的西南地区。
目前,可通过算法优化、开发和使用更高效的AI专用硬件、调整神经网络训练过程以优化计算资源等技术方式来降低AI大模型的能耗,并更多采用自然冷却、液冷、三联供、余热回收等新兴节能技术,提高制冷效率以降低数据中心能耗。从技术未来发展方向上看,光电智能芯片也有助于解决AI大模型的电耗和水耗问题。
AI大模型的发展,不能仅符合高端化、智能化的要求,更要符合绿色化的发展要求。为此,从国家和地方层面上看,为缓解AI大模型发展所带来的电力和水资源冲击,有必要将数据中心行业纳入高耗能行业管理体系,并提前做好相关规划布局。同时,加强资源整合,充分发挥人工智能大模型和数据中心的效能,通过使用效能下限设置等方式,确保其自身的电力和水资源使用效率。还应严格落实国家能耗双控及碳排放双控政策,并将其碳足迹与水足迹纳入行业考核范围,切实推动碳足迹与水足迹逐步降低,以应对日益增长的AI大模型电力和水资源需求。
标签:
抢先读
- 大模型为何成耗能大户
- 直接生成16秒高清视频 我国自研视频大模型在京发布-全球观察
- 新华全媒+丨在北京国际车展看如何迎接“智驾时代”
- 西平县柏亭司法所开展社区矫正对象“五一”节前警示教育活动_世界热议
- 邓州市统筹城乡发展实验区:保障服务全方位 优化营商好环境
- 西平县柏苑街道扎实开展小麦统防统治工作 报资讯
- 西平县盆尧盆西小学开展“珍爱身心健康 拥有阳光心态”主题活动
- 第十四届北京国际电影节闭幕
- 大唐金乡县主特展在长沙博物馆开幕
- 当前资讯!Howo Tipper Truck for sale Used Tipper Trucks for sale Howo Sinotruk 371
- 天天关注:Dongfeng 4x2 Rear Loader Used Trash Truck
- Howo 6x4 Used Oil Tank Truck Fuel Tank Truck 环球观热点
- 硬科技·生活味·国际范——“打卡”中关村论坛亮点
- 直接生成16秒高清视频 我国自研视频大模型在京发布
- 全球讯息:柬埔寨东盟国际物流商贸城正式开业
- 加大在华投入,宝马集团坚定迈向智能电动新世代|天天热讯
- 西方将“新三样”贴上产能过剩标签目的何在|天天时快讯
- 当前速看:与清华大学二次签约,扎根中国的丰田心系长远
- 中国农业科学院举行张子仪院士诞辰100周年纪念活动
- 水产品市场使用“鬼秤”?青岛市南区:已约谈市场主办方|天天微动态
- 中国弦乐四重奏亮相新西兰南岛受欢迎
- 天天观察:临河好景不负侬——息县临河乡第二届淮河文化节开幕
- 华为智驾:树立汽车安全新标杆-百事通
- 河南内乡:瓜菜种苗免费领 脱贫群众笑盈盈
- 邓州市卫生健康工作会议召开_环球时快讯
- 消息!邓州市九龙镇卫生院:开展儿童预防接种日宣传 优化儿童健康好环境
- 邓州市双根新型建材有限公司获省先进企业 全球今日报
- 驻马店移动公司团委召开“奋斗逐梦正青春 勇当先锋建新功”青年员工座谈会
- 罗山县市场监管局举办华北水利水电大学江淮校区食品安全知识培训会
- 焦点速看:西平县二郎中心校开展案例剖析做好以案促改工作动员会
- 驻马店市驿城区古城街道:养老保险入万家 受惠得益你我他 全球信息
- 焦点滚动:驻马店市驿城区古城街道:麦田管理正当时 集中防治保丰收
- 罗山县举行“好品罗山”区域公用品牌质押融资授牌仪式
- 【焦点热闻】泌阳县法院【以案释法】复婚后又离婚,原离婚协议的约定还有效吗?
- 经典更进一步!2024款欧拉好猫&GT木兰版超值上市
- 西平县人大常委会副主任刘宇到权寨镇调研养老服务工作
- 天天热议:邓州市十林镇一初中:法制教育进校园 优化育人好环境
- [心•报道]凝心聚力 勇往直前—驻马店市供销社团体体验活动_天天通讯
- 邓州市税务局:惠企便民优服务 优化营商好环境
- 邓州市人社局:春风送岗进校园 优化企业用人环境 天天头条
- 世界球精选!邓州市花洲街道:观摩交流增活力 取长补短共提升
- 驻马店市第二人民医院召开党纪学习教育读书班暨党委理论学习中心组(扩大)会
- 世界看点:西平县举行庆祝“五一”国际劳动节歌咏比赛
- 每一面都惊艳,欧拉闪电猫耀夜版应用豪车级自修复车漆
- 天天信息:西平县妇联为省级“美丽庭院”示范户授牌
- 天天热资讯!西平县人大常委会开展“积极应对人口老龄化 加快发展养老服务”联动监督专题调研
- 西平县人民医院行政党支部开展党纪学习教育集中学习 世界信息
- 当前通讯!中国农业银行西平县五沟营支行:女士不慎摔倒 农行热心搀扶
- 当前速看:西平县农业农村局举办党纪学习教育读书班
- 今日热讯:分装化妆品违规偷偷卖
- 《高等学校科技伦理教育专项研究报告》新书发布会在清华大学举行-世界快看点
- 国货美妆科技力和“含绿量”稳步提升
- 春夏季还能穿羊绒?
- 创新引擎驱动,老板电器稳健前行,开创厨电发展新篇章
- 全球球精选!新县邮政党员深入帮扶村送优惠到茶园
- 驻马店开发区金河办事处东高社区开展防诈骗宣传活动
- 罗山县举行“周四有约·罗商之家”企业家茶叙会暨知识产权培训会
- 潢川县:释放市场活力 提升营商环境的软实力
- 遂平县司法局开展全国知识产权宣传周活动-世界信息
- 每日热门:驻马店市驿城区人民街道向阳社区党支部开展“学党规党纪守纪律底线”主题党日活动
- 驻马店开发区金山办事处全面开展“五一”节前安全生产和消防大检查行动 焦点快播
- 驻马店市驿城区板桥镇开展2024年“护苗·绿书签”文明实践活动|观焦点
- 环球关注:遂平县石寨铺镇:禁种铲毒正当时 无人机器巧助力
- 天天新动态:驻马店市驿城区朱古洞乡:“瓶改电”守护居民群众安“燃”无恙
- 世界百事通!遂平县文城乡利用“无人机”开展禁种铲毒踏查工作
- 驻马店市生态环境局遂平分局多措并举确保出境水质稳定达标-天天快播
- 驻马店开发区城市管理局开展城市道路排水抢险演练_全球头条
- 西平县应急管理局召开《网络安全法》专题学习会-每日快报
- 快看:阳光体育 快乐成长——驻马店第二实验小学第九届快乐体育节开幕
- 西平县文广旅局开展“五一”节前文化市场安全生产检查行动-环球消息
- 每日热闻!浉河区五星街道开展校园交通安全宣传活动
- 世界看热讯:河南交通技师学院开展新任职干部集体谈话活动
- 天天头条:光山县组织开展2024年第一季度新申领行政执法证人员法律知识培训考试工作
- 世界即时看!驻马店经济开发区开源办事处刁庄村开展“五一”节前安全隐患排查工作
- 天天精选!驻马店市驿城区古城街道:揭榜“六美庭院”新标杆 引领美化新风尚
- 天天热文:驻马店开发区金山办事处开展创建国家食品安全示范城市宣传活动
- 每日聚焦:罗山法院开展知识产权案件庭审观摩活动
- 驻马店市驿城区古城街道:创建六美庭院 助力乡村振兴
- 以“检”促减 以“查”促教——驻马店市第十二小学开展作业常规检查工作 报资讯
- 【世界热闻】驻马店市驿城区古城街道:群防群治护麦田 一喷三防保丰收
- 当前讯息:确山县刘店镇:体育健儿应出征 篮球场上展雄风
- 每日消息!驻马店市驿城区古城街道:防火防盗防骗宣传 筑牢财产安全防线
- 驻马店市驿城区古城街道:党群联动 科学防控 除多花黑麦草 护小麦丰收
- 志愿力量 麦田显光——驻马店市驿城区古城街道助力弱势群体除黑麦
- 邓州市医保局:培训学习促提升 助力优化营商环境-焦点速讯
- 邓州市孟楼市场监管所:助企纾困解难题 优化营商好环境|天天要闻
- 环球热点评!邓州市城管局执法大队:开展小区安全巡查整治 营造安全居住环境
- 西平县杨庄高中在县第二届中小学班主任及第一届幼儿园班主任基本功展示活动再获佳绩
- 小小面塑 传承非遗——西平县第三小学开展面塑制作活动
- 邓州市水利综合行政执法大队:法治宣传进企业 优化法治化营商环境
- 天天热门:罗山县文广旅局召开行业安全生产治本攻坚三年行动动员暨文化市场管理工作会
- 罗山县公共资源交易中心:多举措提升交易服务环境_世界观热点
- 驻马店市驿城区香山街道集中开展多花黑麦草专项拔除工作
- 淮滨县自然资源局:“局长进大厅走流程”现场办公提效能
- 遂平县花庄镇:四措并举出实招 凝心聚力助振兴-快播报
- 南阳宛城区法院:月巡检架起诉讼服务“连心桥”_新动态
- 遂平县组织开展全县行政执法证申领资格考试
- 佳卫苗:治疗HPV的特效药,让你快速转阴
- 西平县园林绿化中心全面开展春季绿化建设养护工作_环球快资讯
- 今日观点!西平县柏苑街道开展“坚持预防为主 守护职业健康”为主题的宣传活动