Normalisierung von Adressen / Postalman

[hanvas]

Hallo,

ich habe ein etwas älteres Projekt von mir ein wenig überarbeitet und auf Github zur Verfügung gestellt. (https://github.com/hansvas/Postalman/) Dabei handelt es sich um eine Klasse zum parsen von internationalen Adressen. Postalman erzeugt aus

"99999 Berlin, Peter Lustig, Fanz-Lehar-Str. 2" den "korrekten" Output "Peter Lustig, Franz-Lehar-Str. 2, 99999 Berlin" und natürlich auch aus fast jeder anderen Adresse.

außerdem identifiziert Postalman die Adressbestandteile, also die entsprechende Zuordnung von Plz, Strasse, Ort usw. Dieser Teil der Funktionalität geht weitestgehend auf libpostal [1] zurück, wer Postalman nicht einsetzen will kann auch einfach die entsprechenden Headerdateien nehmen und libpostal selbst einbinden.

Adressen können innerhalb von Postalman mit Hilfe von Validatoren geprüft werden. Ich habe einen einfachen Validator der auf Nomanitim basiert und der Adressdaten auch mit Längen und Breitengrad anreichern kann. Im Laufe der Zeit werde ich weitere Validatoren hinzufügen.

hth Hans Joerg

[1] https://github.com/openvenues/libpostal

[BlueStarHH]

Danke, das liest sich interessant. Was muss ich unter "Data directory" einstellen? Wenn ich das Projekt aus Delphi starte erscheint, diese Meldung:

Zitat:

Im Projekt TestPostal.exe ist eine Exception der Klasse Exception mit der Meldung 'libpostal:Postalman setup error' aufgetreten.

[himitsu]

Vor 'ner Weile (dachte hier, aber vielleicht auch wo anders) eine Diskussion / Artikel gesehn, wo es darum ging ein Sprachmodel (ähnlich, wie man es von ChatGPT kennt) dafür zu nutzen.

Also das war es schon beeinruckend, was damit alles möglich ist.

[hanvas]

Zitat:

Im Projekt TestPostal.exe ist eine Exception der Klasse Exception mit der Meldung 'libpostal:Postalman setup error' aufgetreten.

Die Klasse benötigt libpostal [1] und das entsprechende Datenmodel. Auf den Seiten von libpostal ist auch angegeben wie man sich das baut. Unter Windows würde ich aber empfehlen einfach [2] herunterladen. Der Link stammt von pypostalwin [3], das ist der nicht offizielle python/windows build der sich aber eignet. Verzeichnis C:\Workbench anlegen, die heruntergeladene Zip Datei hineinkopieren und entpacken.

Die Ordnerstruktur sollte dann so aussehen

C:\Workbench\
-->automate4te\
-->data\
-->datastore\
-->libpostal\
-->m4\
-->resources\
-->scripts\
-->src\

In dem Fall sollte alles mit den voreingestellten Werten funktionieren. Wenn man die Daten anderswo hinkopieren will oder selbst trainieren will (Anleitung unter libpostal, alternative Daten) dann muss man natürlich angeben wo die Daten liegen.

hth Ha Joe


[1] https://github.com/openvenues/libpostal
[2] https://drive.google.com/file/d/1fZU...ew?usp=sharing
[3] https://pypi.org/project/pypostalwin/

[hanvas]

Zitat:

Zitat von himitsu (Beitrag 1527147)

Vor 'ner Weile (dachte hier, aber vielleicht auch wo anders) eine Diskussion / Artikel gesehn, wo es darum ging ein Sprachmodel (ähnlich, wie man es von ChatGPT kennt) dafür zu nutzen.

Also das war es schon beeinruckend, was damit alles möglich ist.

Im Grunde ist das der Hintergrund von libpostal. Allerdings ist es kein Sprachmodel. Trainiert wurde das Modell überwiegend mit den Daten von Openstreetmap, aber natürlich sind auch alternative Ansätze möglich. Das ist auch der Grund warum man die rund 1,5 gb Daten benötigt. Es funktioniert erstaunlich gut, ist recht zuverlässig und in gewisser Weise schreibweisentolerant.

Aber damit habe ich nichts zu tun, die Arbeit und auch ein (Python) Modul zum Deduplizieren [1] von Adressen (das eine oder andere werde ich noch einbauen) haben die Macher von libpostal gemacht. Ich will, wenn ich irgendwann mit dem Training fertig bin, libpostal eigentlich einsetzen um mit Hilfe von Donut [2] Rechnungen zu parsen und anschließend die Adressen aufzuarbeiten.

cu Ha Joe

[1] https://github.com/openvenues/lieu
[2] https://github.com/clovaai/donut

[BlueStarHH]

Ich habe die ZIP-Datei geladen und nach "C:\Workbench\" entpackt. Dann klappt es.

Entpacke ich die ZIP-Datei hingegen z.B. nach "C:\WorkbenchX\" und stelle im Programm folgendes ein:

Path to libpostal: C:\WorkbenchX\libpostal\src\.libs\libpostal-1.dll
Data directory: C:\WorkbenchX\libpostal
oder C:\WorkbenchX\libpostal\datastore
oder C:\WorkbenchX\libpostal\Data

Erscheint dieser Fehler:

Im Projekt TestPostal.exe ist eine Exception der Klasse Exception mit der Meldung 'libpostal:Postalman setup error' aufgetreten.

Was mache ich falsch?

[BlueStarHH]

Zitat:

Zitat von hanvas (Beitrag 1527152)

Ich will, wenn ich irgendwann mit dem Training fertig bin, libpostal eigentlich einsetzen um mit Hilfe von Donut [2] Rechnungen zu parsen und anschließend die Adressen aufzuarbeiten.

Wozu braucht man die Adressen von Rechnungen? Wenn ich eine Rechnung ausstelle, kenn ich die Adresse, da ich sie selbst draufgeschrieben haben. Wenn ich eine Rechnung empfange, kenne ich die Adresse auch. Denn es ist meine eigene.

[himitsu]

Zitat:

Zitat von BlueStarHH (Beitrag 1527161)

Wenn ich eine Rechnung empfange, kenne ich die Adresse auch. Denn es ist meine eigene.

Auch die vom Absender? :stupid:

Oder wenn du in deinen Daten nach einer Adresse suchst, sie aber nicht findest, weil sie anders gespeichert ist.

[BlueStarHH]

Verbesserungsvorschlag zu

Delphi-Quellcode:

function TPostalMan.ParseAddress
 (const a: AnsiString; FieldsAndValues: TPostalManValues;
  useOptions: Boolean = False; useOriginal : Boolean = False) : Boolean;
...  
     try
       FieldsAndValues.Add(Field,value);
     except
       Duplicates.Add(Field,Value);
     end;
...

ändern in:

Delphi-Quellcode:

     try
       if not FieldsAndValues.TryAdd(Field,value) then
         Duplicates.Add(Field,Value);
     except
       //Fehlerbehandlung, wenn Hauptspeicher voll oder andere Gründe...
     end;

[hanvas]

Zitat:

Zitat von BlueStarHH (Beitrag 1527160)

Ich habe die ZIP-Datei geladen und nach "C:\Workbench\" entpackt. Dann klappt es.

Schön

Zitat:

Zitat von BlueStarHH (Beitrag 1527160)

Was mache ich falsch?

Sollte eigentlich gehen, ich schaue mir das später an und melde mich dann.

[hanvas]

Zitat:

Zitat von BlueStarHH (Beitrag 1527161)

Zitat:

Zitat von hanvas (Beitrag 1527152)

Ich will, wenn ich irgendwann mit dem Training fertig bin, libpostal eigentlich einsetzen um mit Hilfe von Donut [2] Rechnungen zu parsen und anschließend die Adressen aufzuarbeiten.

Wozu braucht man die Adressen von Rechnungen? Wenn ich eine Rechnung ausstelle, kenn ich die Adresse, da ich sie selbst draufgeschrieben haben. Wenn ich eine Rechnung empfange, kenne ich die Adresse auch. Denn es ist meine eigene.

Im Grunde geht es um die automatische Verarbeitung von Dokumenten. Modelle wie Donut, Layoutlm, lilit und noch einige mehr können, entsprechendes Training vorrausgesetzt, die Inhalten von Dokumenten klassifizieren.

Also

Kunde->Hans Joerg Vasold, Schäferspforte....
Verkäufer->Amazon, Koblenz ....
Iban->DE 97 ....
TaxId->
Brutto-> 1189,00
Netto-> 1189,00
Steuer->0
Währung->€

usw.

Dabei fasst man (oder ich) die Daten zu Gruppen zusammen, also beispielsweise die Adresse(n), die Zeile(n) eine Rechnung, den Kopf oder Fuß usw. Das hat Vorteile beim Auszeichnen der Trainingsdaten, insbesondere das ich viel weniger Auszeichnen muss, ist zunächst weniger Fehleranfällig und lässt sich auch leichter trainieren.

Es hat aber unter anderem den Nachteil das ich die Gruppen später mit anderen Modellen (die ich ebenfallss trainieren muss) wieder aufsplitten muss.

Der Plan ist letztendlich ein Programm zu haben mit dem ich Dokumente (in diesem Fall Rechnungen) verarbeite, ein weiteres Programm zu haben, welches ein verarbeitetes Dokument zusammen mit den erkannten Daten präsentiert (und auch zur Korrektur verwendet werden kann) um anschließend einen Export der erkannten und korrigierten Daten durchzuführen.

cu Ha Joe

[hanvas]

Zitat:

Zitat von BlueStarHH (Beitrag 1527160)

Was mache ich falsch?

Gar nichts, war mein Fehler.

In der Routine TPostalMan.Setup hat ein API Aufruf zum Setzen des Datenverzeichnisses gefehlt.

Hinweis: Wer nur die Headerdatei verwendet und das Datenverzeichnis verändern will muss erst das Datenverzeichnis setzen (libpostal_setup_datadir) bevor setup (libpostal_setup) aufgerufen wird.

Hab die entsprechende Datei (Postal.PostalMan) auf github geändert.

ps.: bei C:\Workbench\libpostal ist das Datenverzeichnis C:\Workbench\libpostal\datastore\libpostal, bei C:\WorkbenchX\libpostal ist das Datenverzeichnis entsprechend C:\WorkbenchX\libpostal\datastore\libpostal, natürlich können die Daten unterhalb von C:\Workbench\libpostal\datastore\libpostal aber auch in ein anderes Verzeichnis kopiert werden und dann muss eben das als Datenverzeichnis verwendet werden.

hth Ha Joe

[hanvas]

Zitat:

Zitat von hanvas (Beitrag 1527168)

Zitat:

Zitat von BlueStarHH (Beitrag 1527160)

Was mache ich falsch?

Gar nichts, war mein Fehler.

Nicht nur.

Ich habe libpostal noch mal selbst gebaut. Wenn ich die selbst gebauten Binaries/Datenverzeichnisse verwende kann ich libpostal an jede beliebige Stelle kopieren, wenn ich die "vorbereiteten" verwende bin ich tatsächlich auf den Pfad C:\Workbench... festgelegt. Es scheint so als ob der Author von pypostalwin an irgendeiner Stelle den Pfad/Pfade fest verdrahtet hätte.

Ich werde versuchen die Binaries auf Github in den ächsten Tagen zur Verfügung zu stellen, muss dazu aber ein Release basteln (wegen der Dateigröße) bis dahin wirst Du wohl mit der Lösung "C:\Workbench" auskommen müssen oder die Binaries selbst bauen. Die Anleitung dazu findest du bei libpostal.

cu Ha Joe

[hanvas]

Zitat:

Zitat von hanvas (Beitrag 1527176)

Ich habe libpostal noch mal selbst gebaut....
Ich werde versuchen die Binaries auf Github in den ächsten Tagen zur Verfügung zu stellen

Ich habe die Daten mit der Testanwendung als Release auf Github gestellt. Einfach in ein beliebiges Verzeichnis entpacken und die Testanwendung ausführen. Die Pfade für die DLL und das Datenverzeichnis werden in dem Fall automatisch, beim starten der Testanwendung gesetzt.

hth Ha-Jö