Vielleicht kommt der Codec einfach nicht mit deiner Hardware klar... VLC verwendet ja seine eignen Codecs...
Ich würde mir zumindest mal ein anständiges Codec-Pack herunterladen und installieren und über den Windows Media Player Classic versuchen...
Dann kommt es auch auf das Video drauf an. Was für ein Format? Wie Kodiert? usw.
Wird bei VLC hardwareseitig dekodiert?
DirectX oder
OpenGL?
Da gibt es schon zig Einstellungen, die man vornehmen kann, um es anständig zum Laufen zu bringen.