Ich kenne mich mit FMX zwar nicht aus, aber dafür wird es eher ungeeignet sein.
Das, was Du machen willst ist eine ganz schöne Aufgabe.
Ich würde Graphics32 nehmen, was mittlerweile auch unter Lazarus läuft. Alternativ ginge auch noch
OpenGL, was aber wohl noch umfangreicher wäre.