Tira a Placa de Video e tenta com o video onboard, e coloca o Windows 7 também, veja as temperaturas, se tiverem muito altas pode ser isso o problema.
Qual sua configuração completa?Sua Fonte está aguentando a Placa de Video?Sua Placa de Video é da XFX?