Sinnvoll ist ein verteiltes Dateisystem erst, wenn mehrere Rechner miteinander verbunden werden. In der Dokumentation von GlusterFS werden mindestens drei Server gefordert. Dabei ist der Begriff „Server“ aber nicht wörtlich zu verstehen. Es kann nahezu jede Form von physikalischer oder emulierter Hardware eingebunden werden. Neben beliebigen Rechnern ist auch der Einsatz virtueller Maschinen praktikabel. Dies bringt Vorteile mit sich, insbesondere im Hinblick auf die Flexibilität.
Die eingebundenen Server fungieren als Nodes (Knotenpunkte). Diese verbinden sich über das TCP/IP-Netzwerk. Die eingebundenen Geräte bilden einen sogenannten Trusted Pool, also einen Verbund vertrauenswürdiger Server. Ihren Speicher stellen sie in Form von Bricks (Bausteine) zur Verfügung. Auf den Bricks werden schließlich die Volumes (Laufwerke) gebildet. Diese können in der Folge wie normale Datenträger eingebunden und verwendet werden. Zugreifende Rechner werden als Clients bezeichnet. Es ist möglich, dass ein PC sowohl Server als auch Client ist.
Ein besonderes Merkmal ist die enorme Skalierbarkeit. Es können später beliebig viele Nodes und Bricks ergänzt werden. Hierdurch kann die Größe des Speicherplatzes laufend den jeweiligen Anforderungen angepasst werden. Die maximale Größe des zu verwaltenden Speichers liegt bei mehreren Petabytes.
Zudem gewährleistet GlusterFS eine Ausfallsicherheit durch Redundanz. Das Ausfallrisiko verteilt sich zunächst auf mehrere Systeme, die auch räumlich getrennt stehen können. Zusätzlich ist es möglich, RAID-Verbunde einzurichten. Im Gegensatz zum standardmäßig vorgegebenen Distributed (verteilten) Volume muss hierzu ein Replicated (kopiertes) Volume angelegt werden. Dieses speichert jede Datei doppelt und entspricht einem Mirror-RAID.