использую Asterisk 1.6.1.11
ниже приведена часть конфига:
exten => 3683,1,Answer()
exten => 3683,n,Wait(2)
exten => 3683,n,Set(DigitTimeout=5)
exten => 3683,n,Set(ResponseTimeout=10)
exten => 3683,n,Background(testrecord)
exten => 3683,n,WaitExten(10)

exten => 200,1,Dial(SIP/200,15,Tt,wW)
exten => 200,n,Macro(noone)
exten => 300,1,Dial(SIP/1300,30,Tt,wW)
exten => 300,2,Macro(noone)
---------------
при такой конфигурации, если абонент звонит на номер 3683, то ему начинает проигрываться файл testrecord, но при этом игнорируется донабор любого номера (200 или 300).
Подскажите в какую сторону копать ?

это все в одном контексте?

я бы наверное копал в сторону проверить - получает ли вообще Астериск DTMF при этом звонке. Способов проверить много. Вот например два:
1. вместо background поставить Read чтобы прочитать последовательность цифр вводимую пользователем и потом Noop чтобы ее напечатать.
2. включить в logging.conf отладку DTMF на консоль - и смотреть приходит что-то или нет.

да, все в одном контексте.
добавил Read:
exten => 3683,1,Answer()
exten => 3683,n,Wait(2)
exten => 3683,n,Set(DigitTimeout=5)
exten => 3683,n,Set(ResponseTimeout=10)
exten => 3683,n,Background(testrecord)
exten => 3683,n,Read(NUM,,3)
exten => 3683,n,NoOP(${NUM})

в консоль выдало:
-- Accepting a maximum of 3 digits.
-- User entered nothing.
-- Executing [3683@default:5] NoOp("SIP/192.168.76.6-00000015", "") in new stack
-- Auto fallthrough, channel 'SIP/192.168.76.6-00000015' status is 'UNKNOWN'
== Spawn extension (sipnet, 95953683, 2) exited non-zero on 'SIP/105-00000013'

Выходит что до * не доходят DTMF ? Это странно, т.к. если использовать background в макросе, то донабор можно делать.

1. В 1.6 надо использовать function TIMEOUT, например, Set(TIMEOUT(digit)=3).
2. В logger.conf включите debug dtmf.
3. Или просто core set debug 10 и core set verbose 10 и ловите.

1. сделал Set(TIMEOUT(digit)=3)
2. добавил console => notice,warning,error,dtmf - результата никаго, в консоль не пишет ничего о DTMF
3. также ни одной записи о DTMF
при использовании core set debug channel all в консоль получил следующее:
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/TO-2811-000000b5]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/192.168.76.6-000000b6]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/192.168.76.6-000000b6]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/TO-2811-000000b5]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/TO-2811-000000b5]
<< [ TYPE: DTMF Begin (12) SUBCLASS: 2 (50) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: DTMF End (1) SUBCLASS: 2 (50) ] [SIP/105-000000b4]
<< [ TYPE: DTMF Begin (12) SUBCLASS: 0 (48) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: DTMF End (1) SUBCLASS: 0 (48) ] [SIP/105-000000b4]
<< [ TYPE: DTMF End (1) SUBCLASS: 0 (48) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: DTMF Begin (12) SUBCLASS: 0 (48) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: DTMF End (1) SUBCLASS: 0 (48) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/105-000000b4]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/TO-2811-000000b5]
<< [ TYPE: Null Frame (5) SUBCLASS: N/A (0) ] [SIP/192.168.76.6-000000b6]
теряюсь в догадках, где искать решение?

а звонок приходит от софтфона?
проверьте какой у вас dtmfmode для соответствующего peer'а/user'а. Проверьте какой режим DTMF у вас в самом софтфоне настроен.

Я не знаю вашей специфики но по умолчанию я бы использовал rfc2833 везде.

звонок приходит, background проигрывает файл, не рагируя на донабор.

[105]
type=friend
username=105
secret=105
host=dynamic
context=sip
callgroup=1
pickupgroup=1
dtmfmode=rfc2833
!
только у меня не софтфон а Addpac, вот часть конфига
dial-peer voice 9 voip
destination-pattern [0-9]T
session target ip 192.168.8.205
session protocol sip
codec g729
no vad
dtmf-relay rtp-2833

ну сделайте тест софтфоном - посмотрите работает ли с ним.
чтобы отделить как-то мух от котлет. будете точно знать что при получениее DTMF'ов астериск ведет себя как нужно. Тогда через rtp debug посмотрите уже идут ли DTMF'ы от адпака.