Altes Win3.1 Programm gefunden! *ätsch selber gelöst*
Man muss genauso wie bei Delphi-Applicationen eine kleines Fenster (genauer größe: 0 x 0) davor schalten.
Denn in der
MSDN steht das bei DialogBox das Parent-Fenster nicht null oder ein ungültiges Fenster sein darf.