Ich kenne alle diese Probleme, hatte die TabButtons in meinen Editor eingebaut und mir tagelang die Zähne daran ausgebissen. Ich habe es dann letztendlich so gelöst, eine andere Möglichkeit fand ich nicht:
Bei jedem neuen Tab oder wenn sich die Breite ändert, lasse ich alle Buttons neu zeichnen. Ebenso beim Schließen eines Tabs. Ich habe das nur Quick&Dirty realisiert und es ist schlichtweg zu schlecht um es hier ins Forum zu stellen, knobel einfach mal ein bisschen selber, musste ich ja auch.
