und andrerseits das Ziel, in dem die Datei dargestellt werden soll.
Eine derartige Funktionalität bietet ShellExecute nicht. Das
Handle ist nur dafür gedacht, dass z.B. Fehlermeldungen in dem Kontext des aufrufenden Fensters angezeigt werden. Wenn du kein
Handle angibst, blinken diese nur in der Taskleiste, werden aber nicht direkt im Vordergrund mit dem angegebenen Fenster angezeigt.
Mehr passiert dort nicht. Du brauchst auf jeden Fall eine Komponente, die die Darstellung übernimmt. Das kann der windowseigene Previewhandler sein, der oben gezeigt wurde. Da hast du aber keine Kontrolle über die Darstellung, weshalb ich eher eine echte PDF-Komponente empfehle, oder eben notfalls schlicht Chromium als Browser (TEdgeBrowser, du hast ja Delphi 11).