Habe ich das richtig verstanden?
Du hast ein Fenster, mit dessen
Handle du ein
DirectX-Device erstellt hast, und es als Rendertarget verwendest. Dessen (Windows-)
Handle möchtest du exportieren, damit fremde Applikationen darauf zeichnen können, und zwar via
WinAPI/
GDI/
GDI+. Richtig?
Wenn ja, dann wird das so vermutlich mindstens flackern, da das D3D-Overlay unabhängig von dem was Windows so macht da immer wieder drübernudeln wird, und man mit einem Present() bzw. Swap() unmittelbar den Backbuffer darstellt, ohne dass man noch jemanden etwas machen lassen kann bevor wirklich dargestellt wird, und an den Backbuffer kommt die
GDI nicht ran. Das wird sehr wahrscheinlich auch bei einem Layered-Window so passieren, da sich
WinAPI und
DirectX nicht miteinander absprechen. Es
kann aber sein, dass sich das ab Vista/Win7 unter der Aero-
GUI günstiger verhält, da dort der ganze Desktop in einem D3D Device dargestellt wird. Nur ist das dann wenig universell.
Ich würde eher das Surface deines Backbuffers in einem Callback herausgeben bevor du Present() feuerst. Dann muss die andere Applikation allerdings mit Mitteln von
DirectX zeichnen, und ein
VCL TButton wäre nicht drin. Also müsste dieses Programm dann sein
GUI von Hand rendern, nix mit
WinAPI/
GDI. Die Skalierung würde in diesem Fall dann eben genau so ausfallen, wie sich bei dir im Viz Backbuffer-Größe zum Viewport verhält.
"When one person suffers from a delusion, it is called insanity. When a million people suffer from a delusion, it is called religion." (Richard Dawkins)