в общем поставил для изучения модем Ambient (дешевый fxo).
при входящем звонке распознаёт DTMF в 1 из 10 звонков, не меняя конфигов.
так же заметил что съедается первая секунда голосового приветствия (но тоже не всегда).
куда идти и где копать пока не знаю...
может сможет ли что подсказать?

rx/tx gain копай...

Я делаю так: пишем простенький context

exten => s,1,Answer
exten => s,2,Wait(2)
exten => s,3,Record(/tmp/myrec.wav)
exten => s,4,Hangup

Заворачиваем на него входящий с модема звонок. Звоним на *, произносим что-нибудь с нормальной громкостью, жмём '#'. Далее файл /tmp/myrec.wav просматриваем в аудио-редакторе - смотрим, чтобы уровень сигнала был как можно выше, но ограничение не наступало (допустимо небольшое ограничение на самых громких). Регулируем rxgain и снова смотрим. Потом лучше попробовать с ещё одним телефоном (уровень у всех плавает) и выбрать среднее.

rxgain измеряется в дБ (один дБ - это примерно 12% по амплитуде сигнала). Если значение положительное - сигнал усиливается на столько-то дБ, если отрицательное - ослабляется.

Если регулировка rxgain не дала 100% определения DTMF, ставим relaxdtmf=yes в zapata.conf

txgain можно настроить, прослушивая какой-нибудь звуковой файл через * (только сначала надо сделать нормализацию этого файла).