Bei mir (Delphi 2009 Pro) wird die Größe der Buttons nicht verändert wenn ich ShowCaptions aktiviere. Außerdem kannst du die AutoSize-Property von TToolButton verwenden. Images mit 32Bit Alpha geht auch problemlos.
Dein Beispiel-Projekt kann ich leider nicht anschauen weil es die Komponente TSplitView im Delphi 2009 noch nicht gibt.
Gruppen kannst du z. B. mit Panels oder GroupBoxen machen. Einfach ein Panel (Align Top) erstellen. Für jede Gruppe ein weiteres Panel (Align Left) erstellen. In das Panel setzt du dann eine Toolbar mit den Buttons. So kannst du Toolbars/Buttons gruppieren. Du kannst die Gruppen auch optisch trennen. z. B. mit den Panel-Bevels-Properties oder einer anderen Panel-Komponente die Border-Styles unterstützt.
Vielleicht wäre das was für dich?
Beispiel:
Im Anhang ist die EXE inkl. Code.