Ok nochmal von vorne

Ein Result von 0 bei
SendMessage deutet NICHT auf einen Fehler hin. Ein Result von 0 bei
SendMessageTimeout aber definitiv schon. Ich gehe jetzt einfach mal von
SendMessage aus.
Das Problem hat Günther schon korrekt erkannt:
ShowModal
startet eine eigene Message-Verarbeitung und sorgt deshalb dafür, dass deine eigene Message vom Default Message-Handler abgearbeitet und aus der Queue entfernt wird. Das ist dann der Moment, in dem
SendMessage aufhört zu blocken.