Высокоскоростной? Ну если до 20 Мбпс, то впрочем по железу Atom510 без проблем должен потянуть(почта+ДНС), если больше можно и что нибудь по мощнее. Из ПО FreeBSD и все проблемы решены. Строишь Bind и Sendmail все. Все описания настройки есть в handbook.