Vielleicht solltest du dann kein
Mutex nehmen sondern ein MMF.
Denn da kann deine erste Instanz sein
Handle reinschreiben, und die zweite braucht dieses nur auslesen. Da sparst du dir das ganze Findwindow (bzw. hier müsstest du mit enumwindows arbeiten).
Edit: (Rechtschreibkorrektur) Das "x" wollte heut' früh noch nicht.