Die Voraussetzung dafür, dass zwei unterschiedliche Systeme in einem Netzwerk miteinander kommunizieren und Daten austauschen können, ist die korrekte Adressierung. Die Vermittlungsschicht bietet zu diesem Zweck unterschiedliche Dienste und Funktionen an, die sie insbesondere der Transportschicht (Layer 4) zur Verfügung stellt.
Die Hauptaufgabe des Network Layers besteht somit sowohl in der namensgebenden Vermittlung, als auch im Auf- und Abbau einer Verbindung. Dafür werden gesicherte Systemverbindungen miteinander verknüpft, selbst wenn diese dafür über mehrere Netze geführt werden müssen. Die Vermittlungsschicht trifft in diesem Fall eine Wegwahl und stellt den höheren Ebenen dann eine transparente Verbindung zwischen Quelle und Zielsystem zur Verfügung.
Zu den weiteren Funktionen der Vermittlungsschicht gehören Flusskontrolle, die Fehleranalyse und -behebung sowie die Überwachung der physikalischen Verbindung. Die Flusskontrolle erlaubt unter anderem die Pufferung der übertragenen Daten, falls der Datenfluss von Empfängerseite unterbrochen wird. Dazu passt die OSI-Vermittlungsschicht die Größe der Datenpakete an die Gegebenheiten des jeweiligen Netzes an, um so eine möglichst reibungslose Übertragung zu ermöglichen.
Bei paketorientierten Diensten ist die Vermittlungsschicht außerdem für die Stauvermeidung mitverantwortlich. Der Network Layer kann sowohl verbindungslose als auch verbindungsorientierte Netzwerke unterstützen, dabei allerdings immer nur einen Typ gleichzeitig bedienen.