Erstellt man eine virtuelle Maschine (VM), läuft diese auf der Basis einer nicht-virtuellen, tatsächlichen Maschine – beispielsweise auf einem PC. Die VM ist also auf die physische Hardware angewiesen. Deshalb gibt es eine Schicht zwischen den beiden Ebenen, die für die Verwaltung zuständig ist: den Hypervisor. Der Hypervisor ist eine Software, welche die Verwaltung der benötigten Ressourcen übernimmt. Das auch als Virtual Machine Monitor (VMM) bekannte Programm weist innerhalb des Systems Arbeitsspeicher, Festplattenspeicher, Netzwerkkomponenten oder Prozessorleistung zu. Auf diese Weise können auch mehrere und unterschiedliche virtuelle Maschinen auf einem Host-System laufen, da der Hypervisor dafür sorgt, dass diese sich untereinander nicht behindern und alle die benötigten Kapazitäten zur Verfügung haben.
Das Gastsystem (also die Virtualisierung) merkt von den Organisationsschritten des VMMs im Prinzip nichts. Der Hypervisor abstrahiert die Hardware auf solche Weise, dass die VM von einer eingerichteten Hardware-Umgebung ausgeht. Da sich Anforderungen abhängig von den laufenden Programmen auch bei virtuellen Maschinen ständig ändern, ist ein wesentlicher Vorteil des Hypervisors, dass er Ressourcen bedarfsgerecht bereitstellen kann. Auch davon merkt das Gassystem nichts: Die virtuelle Maschine hat keine Möglichkeit, die Existenz der anderen Maschinen zu erkennen, die auf derselben physischen Hardware laufen.