Theoretisch könnte man ja prüfen ob die Direct X bzw.
OpenGL Librarys geladen sind. Jedoch heißt das auch nicht zwingend das es eine Vollbildanwendung ist. Ansonsten die Fenstergröße abfragen. Hilfreich wäre dann auch GetForegroundWindow(), denk ich mal.