100%-ig sicher kann man garnichts in diesem Zusammenhang prüfen.
Aber es ist oftmals so, daß am Anfang der Textdatei 1-4 Bytes zur Identifizierung stehen.
Diese müssen aber auch beim Speichern von dem Programm eingefügt werden.
Viele Editioren machen das zum Glück, aber wenn du selber mal 'ne Datei speicherst, dann mußt du dich daum kümmern, da dieses nicht autoatisch geschieht.
Hier im Forum findest du einiges zu diesem Thema
und in der CodeLib gibt's auch schon etwas.
Dateiformat einer ( Unicode ) Textdatei ermitteln