Спасибо за ссылки. Получилось настроить. Для тех, у кого подобные проблемы, я сделал так.
1. Снес soundmax
2. Дал висте самой найти звуковую и установить свои драйвера
3. В настройках выставил динамики 7.1 несмотря на то что система на самом деле 5.1
4. В дополнительных настройках включил управление басами, выставил режим "комната"
5. Там же включил эмуляцию объемного звучания.

Да, совсем забыл, заднюю пару я подключил в разъем для боковой пары на материнке.