Schau mal in den folgenden Beitrag.
Da ist einen Demo (Clipping) von mir.
Dort wird die Clippingform zwar nicht mit SetWindowRgn einem Fenster zugewiesen, sondern mit SelectObject an einige Images. Aber die Erstellung ist das Selbe.
Durchsichtiges Fenster (nicht Alpha Blend)