NCPaint schlägt fehl wenn du Aero aktiviert hast.. (Meine vermutung) da du auf einen nicht Clientbezogenen bereich versuchst zu Rendern.
Falls du es eingeschaltet hast mache es mal testweise aus und prüfe dann mal ob immer noch ein zittern stattfindet.
Wenn nicht dann hilft dir nur Unterer Ratschlag.
Was du versuchen könntest wäre mit DwmSetWindowAttribute die DWMNCRENDERINGPOLICY einzuschalten.
Etwas anderes fällt mir ansonsten jetzt auch nicht ein.
Schau mal hier
DwmSetWindowAttribute
ändere mal GetDCEx nach GetWindowDC um.
gruss