По iaxmodem'у к сожалению ничем не могу помочь, ни разу его не ставил.
Но приведенная схема опять какая-то странная...
Или оператор воткнут по аналоговой линии в FXO?

Кстати, где в данной схеме H.323? Откуда он взялся?

P.S. Выключите везде, где возможно T.38 и факс будет идти по G711.

Нет, человек получает DID от оператора по Н323, в том числе хфаксы.
Которые придут к нему по Н323/Т38. А он хочет транслировать прозрачно Т38 в IAX2. Потому что модем. Чтобы в Hylafax.

Да, я понял. Но в последней схеме вплелся spa3102.
Притом, как выяснилось, оператор также поддерживает и G711, насколько я понимаю, ибо модули h323 в asterisk'е не поддерживают T.38.
Или уже поддерживает (в 1.6)?

нет не поддерживает, и не будет поддерживать, потому что заниматься h323 некому

Значит оператор поддерживает передачу факсов по g711, иначе бы связка оператор-asterisk-spa3102 не работала бы.

На spa3102 выставлен кодек g711u, на iaxmodem так же ulaw. В отладке вижу, что ulaw используется, но факсы не соединяются хоть ты тресни...

подниму тему, может кто чего подскажет

а как включить дебаг и смотреть, что вообще происходит?

проблема решилась с переходом с ooh323 на h323