Die Enerdings sind hier sehr gut bekannt

Dein Teil ist echt unzureichend für deine Hardwarekombi.
Selbst wenn es momentan nicht daran liegt, sind Probleme faktisch vorprogrammiert, da es mit Sicherheit ständig an seiner Leistungsgrenze arbeitet.
Dinge wie AGP Aperture Size einfach auf best funktionierende Werte stellen (32,64,128,...). Eigentlicher Wert ist heutzutage irrelevant. Mehr ist nicht autmatisch besser.
Problem kann auch AGP8x sein. BIOS und Treiber wollen sowas heut oft automatisch einstellen. Für deine Karte genügt als Bandbreite auch 4x, also in BIOS oder Treiber 8x disabled.
Fast Write aus ist ok.