PCI-E 2.0 x8?
Es raro encontrar una placa así, estoy buscando sus características pero parece que es muy antigua y la tarjeta de video aparenta ser demasiado para esa pobre placa, ni en la web del fabricante encuentro su ficha técnica y eso no es buena señal.
Estás seguro de que tiene una PCI-E 2.0 x8? revisaste su BIOS o tienes la ficha técnica o miraste el puerto PCI-E y viste que es x8? No soy experto pero dudo que la gráfica x16 funcione en una x8, la x8 tiene menos conectores
Tarjeta de video x8, fíjate en la parte donde se conecta, solo tiene la mitad de conectores:


Siempre puedes revisar los Benchmarks para conocer un poco las opciones que otros usuarios han probado, por ejemplo:
https://www.userbenchmark.com/System/ECS-H61H2-CM/9951