Während man beispielsweise bei File Storage komplette Dateien in einem Ordnersystem unterbringt, werden Daten im Block Storage in Form von Blöcken gespeichert. Diese werden dort gespeichert, wo es das System am sinnvollsten erachtet. Dabei teilt es Dateien gleichmäßig in Blöcke auf. Die Dateien verlieren also ihre eigentliche Bedeutung, lassen sich nicht einfach ausführen oder öffnen. Blöcke sind dabei Einheiten gleicher Größe. Damit die einzelnen Blöcke wiedergefunden werden können, wird jedem Block eine Adresse zugeordnet. Erhält der Server eine Anfrage, kann er so die Daten lokalisieren, wieder zusammenfügen und dann ausliefern.
Realisiert wird der Blockspeicher in der Regel in einem Storage Area Network (SAN). Dabei stehen Datenspeicher über ein Netzwerk mehreren Servern zur Verfügung. Geregelt wird alles durch eine Software, die die Lokalisierung der Blöcke übernimmt. Während Block Storage im SAN ursprünglich ähnlich zu einem LAN aufgebaut war, mit Switches und Hubs, lassen sich Blockspeicher heutzutage auch in Cloud-Umgebungen realisieren. Hier spricht man meist von Block-level Storage. Ein zusammenhängendes System aus Festplatten, wie man es traditionell verwenden würde, wird dabei nachgestellt.
Die Kommunikation erfolgt bei einem SAN meistens über Fibre Channel (FC) oder Internet Small Computer System Interface (iSCSI). Bei FC handelt es sich um eine Schnittstelle, die für Übertragungen mit sehr hoher Geschwindigkeit entwickelt wurde. Das Verfahren iSCSI nutzt dagegen TCP und Ethernet und kann somit leicht in bestehende Netzwerke integriert werden.