Du solltest immer absolute Pfade nutzen, denn das Arbeitsverzeichnis kann sich ändern und dann ist nicht gewiss, wo du die Datei abspeicherst:
ExtractFilePath(ParamStr(0)) + 'MyIniFile.ini'
Und ein Ausrufezeichen reicht, zumal hier auch je ein normaler Punkt genügen würde.