en esto del overclock hay muchos factores y que mejor manera de nombrarlos como suerte.
pues hay algunos que obtienen las mejores partes para overclokear, y otros (me incluyo) que no podemos hacer que nuestro hardware rinda siquiera un megahertz mas.
por lo tanto, creo que tu vga no soporta ese overclock que le has dado, y te la podes cargar.
lo mejor seria que le bajes hasta que no te salgan los famosos "artifacts" o anomalias graficas creadas por la nueva exigencia que le has impuesto a la vga, si fuera un chucho, se estaria retorciendo.