Confusão..
Placa mãe não compatível com a placa de video
Também estou com problema parecido, usei por um ano a minha mobo, processador e memorias com uma gtx 650ti boost, e recentemente troquei apenas a fonte e vga, por uma gtx 770 e fonte xfx pro750w, mas no windows funfa de boa mas quando rodo jogos como: bf3, bf4, nfs 13, depois de um tempo começa a dar uns bug nos graficos, tipo umas falhas e o jogo trava,
ja formatei o pc, atualizei a bios da mobo e nada. :(
mobo: p8h61-m lx2 R2.0
cpu: i5 3330 3.0ghz
mem: 2x 4gb kingston 1333 mhz
vga antiga: evga gtx 650ti boost
vga atual: evga gtx 770 sc dual bios
fonte: xfx pro 750w
Cara o que parece que ta acontecendo é um problema de alimentação.
Mesmo que sua fonte seja boa leve em consideração que algum defeito dela pode não está alimentando o PC corretamente e como você trocou uma Placa de vídeo por outra que consome mais energia isso geram esses problemas.
Muitas vezes esses técnicos não sabem dizer se a fonte esta alimentando direito o PC, alias as vezes eles nem tem uma fonte de qualidade pra fazer um teste de verdade.
Por isso eles pegam sua fonte ligam em outro PC ou apenas removem a placa de vídeo e quando vê que ta rodando normal eles acabam colocando a culpa ou na Placa mãe ou placa de vídeo.
Aconselho-te a arranjar emprestado outra fonte real e testar pra vê.
XXPLAY vc esta conseguindo entrar no windows?? se conseguir faz um backup da sua bios e me passe pf, ja testei minha placa de video em outro pc com uma placa mae gigabyte z77x-ud3 - i5 3570k
2x 4gb kingston beast 1600mhz, e no pc dele tambem deu bug no jogo e travou, se vc puder me mandar uma copia da sua bios original de fabrica agradeço
vc pode fazer uma copia da bios usando o GPU-Z
URLaHR0cDovL3d3dy50ZWNocG93ZXJ1cC5jb20vZ3B1ei8=