Сейчас у вас приставка скорее всего передает многоканал без сжатия (настройка звука "Авто", по умолчанию) по HDMI на ТВ, и тут варианта 2:
1) ТВ сожмет многоканал в Dolby Digital 5.1 (другой многоканал по оптике не проходит) и отправит на усилитель
2) ТВ сведет многоканал в стерео и, скорее всего несжатым, отправит в усилитель.
Для лучшего качества звука, поставьте в AppleTV в настройках звука вывод "Стерео", тогда приставка сама будет сводить звук в 2 канала и отправлять их несжатым в цифровом виде по оптике в ТВ, а тот просто переправит, в цифровом же виде, в усилитель (я так понимаю, у Вас стерео-система). Таким образом, качество звука будет максимально возможным, во всяком случае, без пересжатия.
Еще можете попробовать посмотреть настройки ТВ, там возможно настроить, как выводить аудио по оптике - DD 5.1 или стерео.
Другой вариант - купить ресивер и подключить AppleTV через HDMI к нему (AppleTV -> ресивер -> TV) и дать сводить в стерео ресиверу. Так работает у меня, на мой взгляд ресивер (Denon 4400) сводит многоканал в стерео заметно лучше, чем это делает AppleTV. А ресивер уже подключить к усилителю. Я так смотрел кино на стерео сетапе, получается полноценный окружающий звук, с нормальным фантомным центральным каналом и пр.