数据中心整体能耗居高不下，核心原因集中在两块，一是服务器持续运算产生的耗电，二是配套散热系统带来的额外能耗，后者的能耗占比同样不容小觑。
普通家用电脑不会长时间满负荷运转，但数据中心的服务器全程7×24小时不间断高强度运行。如今高密度AI服务器单机柜功率早已突破传统几千瓦的级别，普遍达到数十千瓦，部分设备甚至突破百千瓦。海量机柜集中部署，整体耗电量极为庞大。2025年国内数据中心总用电量达到1960亿千瓦时，占据全社会用电量的1.9%。行业预测，2030年这一耗电量有望突破7000亿千瓦时，全社会用电占比将超5%。
服务器高强度运转会产生巨量热量，必须依靠空调系统持续降温，制冷因此成为数据中心仅次于设备运算的第二大能耗来源。行业数据显示，制冷能耗普遍占到数据中心总能耗的30%至40%。传统风冷模式的数据中心，电能利用效率PUE长期维持在1.8以上，意味着服务器每消耗1度电用于运算，就要额外耗费0.8度电用于散热降温。即便新建大型数据中心将PUE管控在1.25以内，散热产生的电费开支，依旧是运营成本的核心支出项。
除了耗电，数据中心的水资源消耗同样十分惊人，整体用水分为直接用水与间接用水两大类型。
直接用水主要用于设备冷却，蒸发冷却是目前性价比最高的散热方式之一，通过水分蒸发带走设备热量，水分持续损耗就需要不断补水。各地数据中心的用水数据直观体现了消耗规模，大连人工智能计算中心去年全年用水量约3000吨，今年上半年用水量就已经超越去年全年数值。2025年亚马逊旗下数据中心运营耗水量达到95亿升。有行业测算，1兆瓦规模的数据中心，每年制冷用水可达2550万升，等同于30万人一天的生活用水量。
间接用水很容易被大众忽略，但其消耗规模远超直接用水，核心来源是供电端的水资源损耗。支撑数据中心运转的火电、核电，都需要大量冷却水维持设备运行。相关报告统计，2030年美国数据中心的总水耗中，发电端用水占比将达到72%。即便部分机房实现零直接用水，依托电力供应产生的隐性用水依旧十分庞大。
地域资源错配进一步加剧了能耗与水资源矛盾。数据中心大多选址在电价低廉的区域，国内低价电力多集中在西部，但这类区域普遍水资源匮乏。以内蒙古乌兰察布为例，当地风电、光伏资源充足，电价优势明显，目前已入驻超80个数据中心，却常年面临水资源紧张的困境，充沛的电力资源和稀缺的水资源形成鲜明冲突。