Du musst das aufzurufende Programm und die Parameter trennen.
ShellExecute(Handle,'open', PChar('C:\Users\....\Projekte\PKM\XML\json2xml.exe'), 'modinfo.json', nil, SW_normal);
Wobei die relative Pfadangabe natürlich auch noch ein Problem darstellen kann.
Den zweiten Satz gelesen?
Kein Arbeitsverzeichnis angegeben und auch bei modinfo.json kein Pfad.