Ich glaube nicht dass es am Netzteil liegt. Wenn die bei der Konstriuktion keinen Mist gemacht haben, dann läuft die CPU über die eine 12V-Schiene und die Grafikkarte über die zweite 12V-Schiene (+75Watt vom PCI-e). Bei einer 8800GTX oder Ultra macht das Netzteil wahrscheinlich schlapp, aber noch nicht bei einer HD3870.
Ich würde aber trotzdem mal
HWmonitor benutzen um zu sehen wie deine 12V-Spannung bei Last schwankt.
Falls alles in Ordnung ist, dann würde ich danach auch mal die GPU auf 777MHz runtertakten um zu testen ob das hilft.
Vielleicht verträgt sich auch der ATI-Treiber nicht mit dem ServicePack 3. Aber sowas zeigt sich eher durch Bluescreens bemerkbar.