VoIP шлюз являє собою пристрій, який підключається до телефонної мережі. Головне завдання голосового шлюзу - запис і перетворення людської мови в цифровий код, який буде переданий кінцевому адресату.

Кодування людського голосу відбувається за допомогою імпульсно-кодової модуляції. На вході звуки мови перетворюються в цифровий сигнал, який фрагментируется на окремі пакети і передається за допомогою IP-протоколу. На приймаючій стороні отримані пакети проходять процедуру декодування і перетворюються в синтезовану мову. Передати голосовий сигнал можна на будь-які пристрої - браузер або іншу комп'ютерну програму типу Skype, а також на мобільні і міські стаціонарні телефони.

Багато моделей голосових шлюзів крім передачі голосу здатні виконувати безліч інших функцій: маршрутизацію, управління переданим трафіком, його аналіз.