Дело в том, что эта видеокарта с этим же монитором стояла на другом компе, и на нём, хоть через HDMI, хоть через DVI (с переходниками или без) работало отлично, без всяких настроек масштабирования, при подключении ТВ с "расширением монитора" была такая же фигня, в режиме "клон" нормально.
Осталось узнать какая там была установлена версия драйвера
Добавлено через 2 минуты
Драйвер ... не то что в чистую
Если вы все еще не пробовали разные старые версии, то можете и дальше так бесконечно биться о проблему..