DirectX LayeredWindow

[Medium]

Habe ich das richtig verstanden?
Du hast ein Fenster, mit dessen Handle du ein DirectX-Device erstellt hast, und es als Rendertarget verwendest. Dessen (Windows-)Handle möchtest du exportieren, damit fremde Applikationen darauf zeichnen können, und zwar via WinAPI/GDI/GDI+. Richtig?
Wenn ja, dann wird das so vermutlich mindstens flackern, da das D3D-Overlay unabhängig von dem was Windows so macht da immer wieder drübernudeln wird, und man mit einem Present() bzw. Swap() unmittelbar den Backbuffer darstellt, ohne dass man noch jemanden etwas machen lassen kann bevor wirklich dargestellt wird, und an den Backbuffer kommt die GDI nicht ran. Das wird sehr wahrscheinlich auch bei einem Layered-Window so passieren, da sich WinAPI und DirectX nicht miteinander absprechen. Es kann aber sein, dass sich das ab Vista/Win7 unter der Aero-GUI günstiger verhält, da dort der ganze Desktop in einem D3D Device dargestellt wird. Nur ist das dann wenig universell.

Ich würde eher das Surface deines Backbuffers in einem Callback herausgeben bevor du Present() feuerst. Dann muss die andere Applikation allerdings mit Mitteln von DirectX zeichnen, und ein VCL TButton wäre nicht drin. Also müsste dieses Programm dann sein GUI von Hand rendern, nix mit WinAPI/GDI. Die Skalierung würde in diesem Fall dann eben genau so ausfallen, wie sich bei dir im Viz Backbuffer-Größe zum Viewport verhält.