Rack Server unterscheiden sich insbesondere hinsichtlich Ausstattung und Abmessungen. Racks mit der 19-Zoll-Normung kommen am häufigsten zum Einsatz und teilen sich meist in 2-Säulen-Racks und 4-Säulen-Racks auf. In den Einschüben lassen sich je nach Breite mehrere Serverbestandteile horizontal oder vertikal montieren. Eine weitere wichtige Unterscheidung bilden die vertikalen Höheneinheiten (Rack Units). Diese haben die standardisierte Abmessung von 1,75 Zoll (4,445 Zentimeter). Standardmäßig umfassen Racks 42 Höheneinheiten.
Da nicht von Anfang an alle Einschübe bestückt werden, kommen auch Blindpanels zum Einsatz, also Platzhalter, die zum Beispiel für eine bessere Optik sorgen. Grundsätzlich hängt die Wahl des Rack Servers und der Komponenten von den individuellen Leistungs- und Raumanforderungen ab, denn dadurch bestimmt sich auch die benötigte Höhe und Einbautiefe.