Modern (aktuelle Windowse) haben die Toolbuttons keinen Rahmen*1 mehr,
reicht es dann nicht einfach ein Bild des "Button mit Text und Bildchen" zu verwenden?
*1) Den Rahmen hätte man aber im Paint ums inherited drumrum via Region abschneiden können.
https://delphi.cjcsoft.net/viewthread.php?tid=46532
Aber da kommt es drauf an, ob der Button sich selbst malt, oder ob es die ToolBar macht, denn für Letzteres müsste man die TToolBar anstatt des TToolButton bearbeiten.
Es gibt zwar fertige Komponenten, aber ja, das sind nahezu alles normale Buttons oder so selbstgemaltes wie TSpeedButton und TImage, also nicht für die ToolBar.
delphi rounded button component
Oder statt einer ToolBar etwas Anderes benutzen.