Ich bin mir ja nicht sicher, ob ich das rictig verstanden habe, aber lassen sich nicht mit Fetchoptions.Mode abgerufene Datensätze in Memmoryverträgliche Blöcke gruppieren? Bei TFDQuery ist das Property Fetchoptions mal bestimmt dabei.
TFDQuery holt sich die Daten ja aus bzw. speichert sie in einer externen Datenbank. Das ist wegen der beschriebenen Datengröße auch wohl nicht anders zu machen. Die beiden In-Memory-Datasets halten dagegen den gesamten Datenbestand im Hauptspeicher. Wenn du bis zu 12 GB Daten erwartest, benötigst du mindestens 16 GB Hauptspeicher (das PageFile können wir hier getrost vernachlässigen) und musst eine 64-Bit Anwendung draus machen. Ob damit dann allerdings ein sinnvolles Arbeiten mit den Datensätzen möglich ist, erscheint eher zweifelhaft.