如果我们将数据中心定义为一个包含计算、存储、网络以及有着良好备份支持的小型而又完整功能的基础设施中心，那么ENIAC将可被视作数据中心的鼻祖。由于早期计算机主要器件还是由电子管、晶体管组成，它们的体积非常庞大、耗电量高、成本昂贵，多用于国防军事、科学研究等领域。由于涉及的数据非常敏感，当时价格昂贵的UPS和精密空调也成为必备选项，这时的数据机房倾向于大型机的数据计算，因此也称为数据计算机房。

随着大规模集成电路的迅速发展，计算机除了向巨型机方向发展外，更多地朝着小型机和微型机方向快速演进。1971年末，世界上第一台微型计算机在美国旧金山南部的硅谷应运而生，它开创了微型计算机的新时代。在这个时代，计算的形态总的来说是分散为主，分散与集中并存。因此，数据机房的形态也就必然是各种小型，中型，大型机房并存的态势，特别是中小型机房得到了爆炸式的发展。

到1995年，随着互联网的出现，分散在各地的数据资源被有效地整合到一起，为了满足数据增长的需求，IDC（Internet Data Center，互联网数据中心）应运而生，它集中收集和处理数据，可以为用户提供主机托管、资源出租、系统维护、流量分析、负载均衡、入侵检测等服务。此时的数据中心IT设备、供电设备、制冷设备开始出现专业化，X86服务器开始逐渐成为主流趋势。

随着视频、网游、SNS、电商等互联网应用的推动，以及移动互联网和智能终端设备的普及，每天产生数据的体量开始从TB向PB、EB发展。传统数据中心是以设备为中心，将IT技术与企业业务分离看待。但是，各自独立、数量庞杂的系统常常无法及时响应快速发展的业务需求。而云数据中心整个IT体系架构，从底层的基础设施、应用开发和运行的平台，到业务软件，甚至支持企业运营的业务流程，均作为一种服务，随时随地按需交付。

随着信息的爆炸，以及云计算、大数据、物联网等的兴起，国内针对数据中心的投资持续增加。在中国，数据中心仍然是刚需。数据中心正朝着规模化、高密度、集约化、绿色化、智能化、自动化的方向发展。在这种趋势下，数据中心的建设、运维的复杂度逐渐增加，传统的数据中心建设和运维模式面临前所未有的挑战。数据中心的建设和运维必须摆脱原来的条条框框，实现从僵化到柔性、从粗放到精细、从主要依赖人工到自动化的全面转变，构建以高弹性、高效率、高可靠、高度智能化为基本特征的智能型数据中心。