Это называется Busy Call Return или No answer call return или Last call return.
http://www.google.co.uk/search?hl=en&q=bell+star++codes&btnG=Google+Search&meta=
В астериске это реализуется на уровне Dialplan. Комманде Dial передается timeout, и флаг G.
Что такое G прочитаете на voip-info.org. Там обрабатываете далее логику.