und herzlich willkommen in der Delphi-PRAXiS
IMHO liegt das Problem nicht so sehr am Speichermanager von Delphi, auch wenn der seine Macken hat, sondern eher daran, daß Du wahrscheinlich irgendwelche Objekte nicht sauber freigibst.
Ansonsten kannst Du ja einen Schwellwert einbauen und nach erreichen dieses Die Anwendung sich selbst neustarten lassen (siehe
ShellExecute)
...
...