Mein erster Ansatz wäre, den Text von vorne nach hinten durchzugehen und für Ä,Ü,Ö,ß zu prüfen ob das Zeichen davor Groß ist, dann ersetze zu AE,UE,OE,SS. Ist der Buchstabe davor nicht vorhanden oder ist es kein Buchstabe dann prüfe den Buchstaben danach und ersetzte entsprechend.
Prüfe den Folgebuchstaben zuerst. Ist der groß geschrieben, dann ist auch der auszutauschende Buchstabe groß zu schreiben. Gibt es keinen Folgebuchstaben, kannst du den vorherigen Buchstaben entsprechend prüfen. Diese Prüfreihenfolge ist sicherer, da Substantive oder Wörter am Satzanfang große Anfangsbuchstaben haben.
Bei Wörtern mit zwei Buchstaben, wird die Prüfung nicht funktionieren. Aber auf Anhieb fällt mir kein Beispiel dazu ein.