Da die fragliche Zeile in der aktuellsten Version die Nummer 27986 hat, vermute ich, du nutzt eine ältere Version.
Außerdem kann ich das von dir beschriebene Verhalten bei mir nicht nachstellen - Range und Overflow Checking ist an und ich kompiliere die VirtualTrees.pas mit dem Projekt neu (also hat diese auch Overflow Checking aktiviert).
Sollte nach einem Update der Fehler noch bestehen, häng mal ein
SSCCE an.