Как то настораживает то, что разница между оптикой и USB незначительна... Она там должна быть весьма заметной. Да, Pioneer DV-757AI в качестве источника может как то мягчить звук, но не сильно это должно быть выражено. Cambridge Audio DacMagic Plus острее по звуку, но опять же не настолько. Где может быть причина проблемы так сразу сказать сложно, скорее всего это сочетание нескольких факторов. Для начала возьмите несколько своих дисков и при помощи Exact Audio Copy снимите рипы в Wav. Сравнение лучше всего проводить на материале идентичном, насколько это возможно. Понятное дело, что это будут исходники 16/44, но это не так важно само по себе.
Дальше. Подключение - только по USB. И кстати, какой длинны USB кабель, и что это за кабель? Если что то nonameи тоненькое - попробуйте поменять, пусть на тот же noname, но не на "тоненькое-черненькое" а на "потолще" - такие кабели обычно бывают в прозрачной оплетке и с ферритовыми вставками - они выглядят как кубышки-утолщения. И да, лучше, чтобы длинна была не больше чем 1,8 метра. И подключать USB-кабель обычно лучше к разъему на материнской плате, а к примеру, не к разъему а переденей панели системного блока.
Следующий момент - как что подключено по питанию? Очень желательно, чтобы компьютер был подключен не в тот же разветвитель, что и система. Еще проверьте фазировку, а так же посмотрите, чтобы по возможности не было пересечений силовых и сигнальных проводов.
И еще - Cambridge Audio DacMagic Plus сам по себе прирабатывается долго, дольше среднестатистического. Сколько точно не скажу, о не 10 и не 30 часов, точно больше. Если "пробег" еще маленький, и при прослушивании по несколько часов в день будет слышна разница в звуке (правда тут надо научиться различать именно разницу в звуке и адаптацию слуха) - то можно предположить, что просто ЦАПу нужно время.
Настройки софтовой части - отдельная тема, Фубаром не пользуюсь, что там где и как уже не вспомню, но настройки тоже тщательно перепроверить надо. А сам по себе хайрез - так он разный бывает - качество точно так же плавает, как и на разных альбомах на CD, тут уж как записано было важнее. Сама по себе высокая детальность, если она присутствует (а это опять же вопрос записи и обработки, а не только формата) утомлять не должна.