Moin himitsu,
danke für den Tip.
Den Abschnitt mit der Manifestdatei hatte ich übersehen

Leider hat das auch nicht geholfen.
Der Abschnitt hier:
Maximale Längenbeschränkung für Pfade
den Du auch gepostet hast führt bei mir zu einer ungültigen Manifest-Datei.
Hiermit
Anwendungsmanifeste / longPathAware
konnte die Anwendung dann auch starten.
Code:
<asmv3:application>
<asmv3:windowsSettings xmlns:ws2="http://schemas.microsoft.com/SMI/2016/WindowsSettings">
<ws2:longPathAware>true</ws2:longPathAware>
</asmv3:windowsSettings>
</asmv3:application>
Allerdings hat das auch nicht geholfen.
Ich vermute mal, dass die Basis des TMediaPlayers (MCI) einfach langen Pfaden gegenüber resistent ist

MCI ist ja auch nicht wirklich aktuell.
Die Lösung ist allerdings viel einfacher, wie ich inzwischen rausfinden konnte:
Man muss nur den Pfad mit GetShortPathName in einen kurzen Pfad umwandeln.
Dann tut es auch der TMediaPlayer.
Dennoch wäre ich daran interessiert warum libvlc_media_player_set_position nicht das tut, was es soll, bzw. ob auch andere das Problem haben.