电脑服务器是一种高性能计算机，作为网络的节点，存储、处理网络上80%的数据、信息，因此也被称为网络的灵魂。做一个形象的比喻：电脑服务器就像是邮局的交换机，而微机、笔记本、PDA、手机等固定或移动的网络终端，就如散落在家庭、各种办公场所、公共场所等处的电话机。我们与外界日常的生活、工作中的电话交流、沟通，必须经过交换机，才能到达目标电话；同样如此，网络终端设备如家庭、企业中的微机上网，获取资讯，与外界沟通、娱乐等，也必须经过电脑服务器，因此也可以说是电脑服务器在“组织”和“领导”这些设备。
另外，由于安装、连接的设备多，工作时发热量也非常大，必须有足够的空间来散热，以确保服务器能长时间稳定工作。以上这些都决定了服务器的机箱架构就必须要比普通PC机要大，即便是一些媒体所说的DIY PC服务器，为了保证服务器长期稳定工作，也必须加大机箱，在选购或配置PC服务器时一定要注意。
当然以上所说的机箱大，只是针对综合型塔式服务器而言的。随着近几年服务器应用的细化，各大服务器厂商针对各种具体应用推出了专门的功能型服务器，如一些针对空间密集型环境应用推出的服务器产品向机架式服务器，刀片式服务器等在占用空间方面做了特别的优化,大大减小了机箱所占空间。
硬盘、内存容量大这一点也很容易理解，服务器要面对众多的用户，接受所有用户的请求，而且还必须安装、保存许多大容量的服务器专用系统、软件，以及其它一些数据库文件，这都要求服务器的硬盘容量要足够大。以前因为硬盘容量比较小（早期的才几百兆），所以通常采取磁盘矩阵，在服务器的磁盘架上并列安装许多磁盘，虽然这不仅是用于提高整个服务器磁盘容量，但这在当时提高磁盘容量也是主要目的之一。