Welche Selektions-Methode benutzt du denn? Die
OpenGl-Selektions-Methode? Wenn nicht, ist es extrem einfach, da du die Selektion dann ja selbst implementiert hast
und somit schnell anpassen kannst. Wenn du die OGL-Selektion verwendest, dann kannst du es ja so machen, dass du - wenn das Fenster angezeigt wird - den Hintergrund beim glPushName (den genauen Namen der Funktion weiß ich gerade nicht) ausschließt und nur das Fenster in den Selektionspuffer schiebst.
Soweit ich mich an die OGL-Selektion erinnere, bekommst du bei der Selection doch eine Auswahl an Tiefenpuffer-Werten. Da musst du den kleinsten Wert auswählen, damit du das "am nächsten" gelegene Objekt auswählst.