SetTimer in DLL - nicht aktiv? (Trotz AllocateHWnd)

[Apollonius]

Das hängt nicht per se mit SendMessage zusammen. In SendMessage gibt es intern einen Spezialfall, falls sendender und empfangender Thread identisch sind; dann wird einfach nur die Fensterprozedur "ganz normal" aufgerufen.
Du kannst eine Nachrichtenschleife recht einfach implementieren, dazu brauchst du jedoch einen Thread, da sie ständig laufen muss. Wenn du jedoch zunächst keine Nachrichtenschleife hast, gibt es keinen Grund, den UI-Timer (d.h. SetTimer/KillTimer) zu verwenden. Du solltest einen neuen Thread starten und dort entweder mit Sleep den Timer simulieren oder aber einen Waitable Timer verwenden.