Das Verhalten ist bis XP exakt genauso was den Ablauf im betroffenen Programm angeht. Da wird weder dort noch ab Vista etwas abgebrochen.
Der Unterschied ist nur, dass Windows ab Vista den letzten Fensterinhalt noch zwischengespeichert hat und deshalb nicht mehr einfach gar nicht mehr aktualisiert (der Schliereneffekt bei nicht reagierenden Fenstern bis XP), sondern einfach ausgraut.
Wenn das bei deinem Programm reproduzierbar passiert, fehlt da wohl ein Thread für eine Berechnung.