Die Grundlage der nomadischen Nutzbarkeit von Voice over IP besteht in einem nur für die jeweilige Sitzung / Verbindung geltenden Protokoll, das auch kurz als SIP alias Session Initiation Protocol bezeichnet wird. Dadurch und durch die Nutzung der individuellen Adresse des Computers, der so genannten IP ist man bei Voice over IP nicht an einen konkreten Ort mit einer geografisch zugewiesenen Rufnummer gebunden, wie das bei der klassischen Festnetztelefonie durch die Kombination aus Vorwahl und Rufnummer der Fall ist. Die Grundlage aller Verbindungen ist die Bekanntgabe der IP Adresse, was in der Regel durch die Anmeldung bei einem Anbieter erfolgt, wie man das bereits aus der mobilen Telefonie kennt. In der Regel wird für die Anmeldung beim Anbieter die sogenannte öffentliche IP Adresse benutzt. Viele Anbieter teilen ihren beispielsweise den Routern ihrer DSL Kunden jeden Tag eine neue öffentliche IP zu. Deshalb erfolgt die Zuordnung der einzelnen Router und Rechner mit Hilfe anderer Daten, die auf dem Server des Netzproviders hinterlegt sind und eine Zuordnung zu einem konkreten User erlauben.
Für den Verbindungsaufbau und den Datentransport stehen unterschiedliche Protokolle zur Verfügung, die teilweise sogar anbieterabhängig sind und sich geringfügig unterscheiden. So ist H.323 ein von der Internationalen Fernmeldeunion definierter Standard für den Datentransport. Er wurde schon recht früh auch für Voice over IP benutzt, weil er einige Vorteile in sich vereinte. So vereinigte er eine Vielzahl an Leistungsmerkmalen in sich. Das beginnt bei RTP, auch als Real Time Transport Protocol bezeichnet, und das es möglich macht, nicht nur akustische Daten sondern auch Videos über das Internet transportieren zu können. Dabei werden auf der Grundlage der Definitionen des User Datagram Protocols die zu übermittelnden Daten in winzigen Sequenzen unterteilt und jede einzelne Sequenz als Datenpaket übermittelt. Der geschichtliche Ursprung von UDP liegt im Jahr 1977, als man begann, einfachere Wege für die Übertragung akustischer Signale zu suchen.
Eine Besonderheit beim VoIP Protokoll DSS1 dar. Das Digital Subscriber Signalling System Nr. 1 wurde eigens für die Nutzer von ISDN Anschlüssen konzipiert. Bei der Entwicklung dieses Protokolls stand das europäische Telekommunikationsinstitut Pate und DSS 1 setzte sich schnell auch über die europäischen Grenzen hinweg durch. DSS 1 arbeitet in unterschiedlichen Ebenen des OSI Schichtenmodells. Die sogenannte Bitübertragungsschicht beim ISDN findet sich auf Kanal D in der oberen Ebene. Dort wird abgefragt, welche Diensten in den anderen hierarchischen Ebenen zur Verfügung gestellt werden können. In der Sicherungsschicht findet sich bei ISDN das LAPD Protokoll. Es entspricht von der Art der Sicherung der übertragenen Daten dem High Level Data Link Protocol.
Auch IAX ist eines der Protokolle, die bei Voive over IP Anwendung finden können. Inter Asterisk eXchange gehört zur Gruppe der OpenSource Protokolle und steuert sowohl die Kommunikation zwischen zwei Servern, die zu unterschiedlichen Netzwerken gehören als auch die Kommunikation innerhalb des eigenen lokalen Netzwerks. Einer der dabei entstehenden Vorteile ist, dass nicht der Server einen Port für die Kommunikation öffnet, sondern dieser Zugriff von Seiten der Clients erfolgt. Das vereinfacht die Anbindung von Rechnern, die mit aufwändiger Firewall versehen wurden.