Und hier noch eine Alternative:
Eine TImageList zufügen und ListView.SmallImages damit verbinden.
In die ImageList fügst Du zwei Bitmap ein (16x16, 256 Farben), welche einen "Up" und einen "Down"-Pfeil darstellen. In den HeaderColumns kannst Du bei ImageIndex zwischen -1 (=kein Bild), 0 und 1 auswählen, ob und welches Bitmap gezeichnet werden soll. Das funktioniert auch mit den Custom Styles:
Damit die Items in dem TListView nicht ebenfalls einen SortierPfeil anzeigen, muss dort ebenfalls ImageIndex := -1 gesetzt werden.