RCxDecode erwartet als Parameter für Source und Dest ein TByteArray das die Eingangsdaten enthält enthält bzw. die Ausgangsdaten aufnimmt.
Du übergibst aber ein Object genauer einen TMemorystream, das kann nicht funktionieren.
Delphi-Quellcode:
procedure encodeFile(fileName: TFileName; mStream: TMemoryStream);
var
x: TRCxContext;
begin
RCxInit(x,'Passwort');
RCxenCode(x, mStream.Memory^, mStream.Memory^, mStream.size);
RcxDone(x);
mStream.Posistion := 0;
mStream.SaveToFile(fileName);
end;