Вы вероятно взяли этот пример из моей темы. Так вот эта схема работает просто в строчке
exten => _X!,2,ExecIf($[${GROUP_COUNT} > 1]|Hangup) нужно после GROUP_COUNT в скобочках указать название группы. Вот так :
exten=>_XXXXXXX,2,ExecIf($[${GROUP_COUNT(only_one)} > 1]|Hangup)
Ну а чтобы ограничить клиента по аналогии с традиционной - надо так и ограничивать- оконечным оборудованием.

Спасибо всем за советы, буду пробовать. Теперь понял в каком направлении копать.

limitonpeers=no