Um sistema PABX IP consiste de um ou mais telefones SIP, um servidor PABX IP e um gateway VoIP opcional para conectar-se as linhas da rede pública existentes.

O servidor PABX IP funciona de forma similar a um servidor proxy: os clientes SIP, sendo tanto soft-fones quanto aparelhos IP´s, registram-se com o servidor PABX IP, e quando eles desejam fazer uma chamada eles solicitam ao PABX IP estabelecer a conexão.

O PABX IP tem arquivos com registro dos telefones/usuários e seus endereços SIP correspondentes, assim é capaz de conectar uma chamada interna ou rotear uma chamada externa tanto por um gateway VoIP como por uma operadora de serviço VoIP.

Além de poder ser utilizado como um aparelho de PABX convencional, o IP PABX pode servir como: