Das Backup muss dann über den Service Manager laufen.
Dazu gibt es die Option -se(rvice):
http://www.firebirdsql.org/manual/gbak-cmdline.html
GBAK.exe darf die Datenbankdatei nicht selbst öffnen sondern muss dem
FB-Service sagen er solle ein Backup erstellen.
Nachtrag: die Angabe einer
IP-Adresse oder eines Hostnamens muss gbak.exe wohl zwingen über den Service zu arbeiten.