Der schwarze Rand ist ja nicht in
deinem Fenster.
Wenn Windows merkt, daß eine Anwendung (
GUI-Thread) hängt, dann werden von den Fenstern Screenshots gemacht, das Fenster ausgeblendet und stattdessen vom Windows ein Dummyfenster erstellt, wo dieser Screenshot ausgegraut reingemalt wird.
Da dieses Fenster dann von einem anderen funktionierenden Thread (vermutlich vom DesktopWindowManager) verwaltet wird, kann man damit noch ein bissl was machen, wie z.B. verschieben, auf X klicken usw.
und damit es auch ein X gibt, wird notfalls der Fensterstyle geändert.