himXML (gesprochen himix ML)

[himitsu Online]

wollt eigentlich nur mal die ersten Fortschritte eines vor kurzem längerem begonnen Projektes vorstellen

es ist "nur" eine weitere kleine XML-Klasse.

der Grund war eigentlich, daß mir andere XML-Projekte zu rießig sind
und MSMXL (TXMLDocument) nicht grad schnell.

[info]
aktuell entwickle ich unter D2009 und direkt kompatibel düfte es bis Delphi 2006 / Turbo Delphi sein

und Aufgrund einiger Anfragen versuch ich, sobald es da "gut" läuft, eine Extraversion weiter abwärtskompatibel zu machen ... mal sehn, bis wie weit runter das geht
[/info]
[add 04.01.2001] aktuell sieht es so aus, als wenn es schonmal bis zu D7 läuft [add/]

aktueller Post: http://www.delphipraxis.net/internal...116416#1116416 #193

• aktuell ab Delphi 2006 bzw. Turbo Delphi und auch für Delphi2009
  ab Windows 2000 und öfters mal in Windows 7 getestet
• zu den möglichen unterstützten Delphi-Versionen gibt es, Aufgrund häufiger Nachfragen, in Beitrag #191 eine kleine Zusammenfassung.
• Lizenzen: MPL v1.1 , GPL v3.0 oder LGPL v3.0
  es sollte also hoffentlich mit vielen anderen Lizenzen kompatibel sein
• arbeitet weitetgehend nach XML-Standard 1.0 (Fifth Edition)
  und Extensible Markup Language (XML) 1.1 (Second Edition)
• ist nicht validierend
• ein einzulesendes Dokument sollte aber möglichst "Well-Formed" (wohlgeformt) sein
• es wird nur der "Standard" unterstützt ... andere DTDs oder ähnliche Informationen werden nicht unterstützt
• also <!xyz text> wird zwar ausgelesen, aber "text" wird nicht auswertet
• <![CDATA[text]]> wird dagen natürlich behandelt
• <?xyz text ?> wird unterstützt, allerdings wird "text" geparst und in Parameter zerlegt (also wird es Probleme geben falls sich "text" mal nicht in Parameter zerlegen läßt)
  (nach XML 1.0 wird "text" eigentlich nicht zuerlegt im XML-Baum abgelegt, sondern nur XML-Prozessor-intern verarbeitet oder ignoriert)
• unterstützte Kodierungen (teilweise auch via BOM):
  UTF-7, UTF-8, UTF-16, ISO-10646-UCS-2 (littel endian), Unicode (big endian)
  ISO-8859-1 bis ISO-8859-9, ISO-2022-JP, EUC-JP, SHIFT-JIS und WINDOWS-1250 bis WINDOWS-1258
• UCS-4 (4 Byte-Unicode) wird nicht unterstützt,
  denn leider kann man immernoch nicht mit UCS4Char und UCS4String richtig arbeiten, vorallem da sie vollkommen inkompatibel zu den anderen Strings sind (bauen intern nur auf LongWord auf, statt auf einen "Char")
• im Gegensatz zu MSXML (TXMLDocument) kann die Kodierung stärker umgeschaltet werden
  (auch von ANSI/UTF-8 nach Unicode ... MSXML kann z.B. nur umschalten, wenn sich die Zeichengröße in Byte nicht ändert)
• arbeitet nur mit Klassen
  (eine Variante für sehr große Dateien und mit Interfaces aufgebaut, welche die Dateninhalte vorwiegend direkt in der Datei liest, speichert und ändert, kommt vielleicht irgendwann mal)
• eine Thread-Absicherung wurde letztendlich doch nicht direkt integriert,
  aber die CriticalSection wurde dringelassen und kann direkt verwendet werden:
  
  Delphi-Quellcode:

  XML._Lock;
  Try
    ... mach was mit dem XML ...
  Finally
    XML._Unlock;
  End;

• es muß nur jeweils eine Datei eingebunden werden
  himXML, himXMLi, himXML_UseDLL oder himXML_UseDLLi,
  jenachdem mit welcher Schnittstelle man arbeitet
  > wichtige Typen und Konstanten werden in den Dateien weitergeleitet, falls sie nicht in der entsprechenden Unit definiert sind
• ein kleiner Benchmark ist aber schon lauffähig:
  
  Delphi-Quellcode:

  // inklusive Zeitmessung siehe FormCreate
  
  XML := TXMLDocument.Create(Self);
  XML.Active     := True;
  XML.Version    := '1.0';
  XML.StandAlone := 'yes';
  XML.Encoding   := 'UTF-8';
  XML.Options    := [doNodeAutoIndent];
  XML.AddChild('xml');
  For i := 0 to 100000 do XML.DocumentElement.AddChild('Node' + IntToStr(i));
  XML.SaveToFile('test2.xml');
  XML.Free;
  
  // versus
  
  XML := TXMLFile.Create(nil);
  For i := 0 to 100000 do XML.RootNode.Nodes.Add('Node' + IntToStr(i));
  XML.SaveToFile('test.xml');
  XML.Free;

  Delphi-Quellcode:

  //10.000 Nodes (ergibt ca. eine 150 KB-Datei)
  
  TXMLDocument = fill:6749  save:99
  TXMLFile     = fill:  10  save: 7
  
  // 100.000 Nodes (ergibt ca. eine 1,5 MB-Datei)
  
  TXMLDocument = fill:708145  save:348  load:331
  TXMLFile     = fill:   189  save:150  load:319

  Zeiten in Millisekunden
  
  weitere Tests und Vergleiche (auch mit anderen Libs), siehe demos\CheckLibs.dpr
  wer keine Lust hat, vorallem wegen MSXML 'ne halbe Stunde ein Programm laufen zu lassen ... auf den nächsten Seiten befinden sich sporatisch die Testergebnisse verteilt
• "wichtige" Grundfunktionen von .RootNode wurden direkt in die Basisklasse (TXMLFile) umgelegt, sowie von .Nodes in dessen Mutterklasse (TXMLNode)
  
  .Node (.Nodes.Node[], .RootNode.Nodes.Node[] bzw .Nodes[], .RootNode.Nodes[]), .NodeNF (.Nodes.NodeNF bzw. .RootNode.Nodes.NodeNF), .NodeList (.Nodes.NodeList bzw. .RootNode.Nodes.NodeList), .NodeListNF (.Nodes.NodeListNF bzw. .RootNode.Nodes.NodeListNF) und AddNode (.Nodes.Add bzw. .RootNode.Nodes.Add)
  (in Groß siehe Beitrag #65)
• Pfadangaben sind möglich
  in Kurz also XML['node1\node2'] statt XML.RootNode.Nodes['node1'].Nodes['node2']
  ebenso können Parameter und Indizes im Nodepfad angegeben werden (siehe Hilfesektion in himXMLi.pas)
• es kann direkt eine Inline-Verschlüsselung genutzt werden
  einfach für den gewünschten Knoden zusweisen und alles via .Text und .Text_S wird automatisch beim Zuweisen/Auslesen ver-/entschlüsselt
  
  Delphi-Quellcode:

  Node.Crypted := '*';         // Standardverschlüsselung nutzen (erstes in der Liste)
  Node.Crypted := 'RC4';       // RC4 verwenden
  Node.Text := X;              // zuweisen und automatisch verschlüsseln
  X := Node.Text;              // automatisch entschlüsseln und auslesen
  If Node.Crypted <> '' Then   // nur prüfen ob es verschlüsselt ist
  If Node.Crypted = 'RC4' Then // prüfen ob es RC4 verschlüsselt ist
  
  XML.CryptData['RC4'] := S; // anderen Key für RC4 festlegen

  da die Verschlüsselungsroutine Zugriff auf die Node-Attribute hat, könnte man auch eine eigene Verschlüsselung zuweisen, welche z.B. über ein weiteres Attribut jeden Node mit einem eigenem Key verschlüsselt.
  
  Delphi-Quellcode:

  XML.Cryptors       // listet alle registrierten Verschlüsselungen auf
  XML.SetCryptor     // setzt/lösche eine Verschlüsselung
  XML.CryptProc      // siehe SetCryptor
  XML.CryptData      // siehe SetCryptor
  XML.CryptAttrName  // der Name des Attributes, welcher die aktive Verschlüsselung enthält

• • himXML.pas
    - die ganzen Klassen
  • himXMLi.pas
    - die zugehörigen Interfaces (sie spiegeln auch die Funktionalität der Klassen wieder .. nur da halt über TXML... statt IXML...)
    - und enthält auch eine "kleine" Hilfe-Sektion
  • himXML_Tools.pas
    - kleine Zusatzmodule:
    TSimpleAssocVariantArray - sehr einfaches String-assoziatives Array of Variant
    TXMLSerializeRecord_Creator - erzeugt eine Record-Definition für .Serialize/.DeSerialize von Records
    TXMLIniFile - verwendet eine XML-Datei wie eine INI und läßt sich auch wie IniFiles.TIniFile nutzen
    TXMLRegistry - das Gleiche, nur halt mit Registry.TRegistry
    TXMLDatabase - noch unfertig, soll aber irgendwann mal eine XML-Datei wie eine kleine SQL-DB nutzbar machen
  • demos\CheckLibs.dpr
    - einige Tests/Benchmarks zum Projekt und anderen XML-Libs
  • demos\CheckLib_UseDLL.dpr und demos\CheckLib_UseDLLi.dpr
    - das Gleiche, nur über ein externes himXML via DLLs (siehe weiter unten)
  • demos\Demo_Serialize.dpr
    - zeigt einiges zu den (De)Serialisierungsfunktionsn
  • demos\Demo_Tree.dpr
    - 'ne kleine Demo, wo eine XML-Datei in eine TreeView geladen und angezeigt wird
  • demos\SAXParser.dpr
    - hier wird eine kleine XML-Testdatei sequentiel geladen
  • DLLs\himXML_UseDLL.pas und DLLs\himXML_UseDLLi.pas
    - dieses sind die Schnittstellen-Units für die DLLs
    einmal als Objekte und das Andere (mit dem i) als Interfaces
    bei der Objektversion sind die Exceptions noch nicht umgeleitet, also möglichst welche vermeiden
    in der Interfaceversion funktioniert das Freigeben nochn nicht
  • DLLs\himXML_DLL.dpr und DLLs\himXML_DLLi.dpr
    - die zugehörigen DLLs
  • other\*
    - einige andere XML-Libs (verwendet in demos\CheckLibs* )
  • test files\*
    - einige "XML"-Dateien zum Testen

ansonsten bin ich für Tipps und Vorschläge dankbar

[add 13.03.2009]
ach ja falls der Name jemandem nich gefällt ... Beschwerden bitte an Matze richten

[add]
im Beitrag #193 wird etwas über die im Download mit enthalenen anderen XML-Libs geschrieben.


[add]
Achtung, beim Forenupgrad der DP sind die Dateikommentare verschwunden und die Dateinamen sind unglücklich importiert wurden.

himxml_246.7z = v0.9 21.05.2009
himxml_164.7z = v0.99d 12.01.2010
other.7z = 30.12.2010 (only the "other" directory)

[himitsu]

Einen "schönen" Lizenztext hab ich noch nicht,

aber es soll Opensource, Freeware und in notfalls kommerziellen Projekten nutzbar sein ... also irgendwas in Richtung GPL.


Da gibt es ja soooo viel, da was passendes rauszusuchen wird bestimmt auch nochmal 'ne Heidenarbeit werden

[mkinzler]

Zitat:

aber es soll Opensource, Freeware und in notfalls kommerziellen Projekten nutzbar sein ... also irgendwas in Richtung GPL.

Also MPL

[himitsu]

Zitat von mkinzler:

Also MPL

weiß nicht ... mir ist so, als wenn ich mal irgendwo gelesen hatte, daß diese auch nicht sooooo toll sein soll

aber es gab ja schon ein paar Threads hier, wo es um Lizenzen ging ... mal sehn welche ich davon wiederfind und was mir dort dann gefällt.

Das Einzige, auf was ich mich vor langem schon geeinigt hab ist, daß ich nicht unmassen an Kraft in sowas wie einen Kopierschutz, bei vielen meiner Programme, reinstecken und diese zum Verkauf anbieten werde.
Fazit: es gibt 'nen unverbindlichen Spendenlink (damit dennoch wer etwas abgeben kann, wenn ihm was gefällt )


zum Thema:
ich bin eben dran das Array der Node-Liste auf eine mehrfach verkettete Liste umzustellen

und dabei ist mir auch grad die Idee gekommen XML.RootNode und XML.Nodes quasi auszuzauschen,
also die Nodes der obersten Ebene (aktuell in XML.Nodes) in irgendwas Anderes umzubenennen und den .RootNode (den Basisknoten der XML-Daten) in .Nodes umzubenennen und dessen wichtigste Grundfunktionen ebenfalls in die XMLFile-Klasse zu integrieren (also so ähnlich wie schon bei den wichtigsten Grundfunktionen der untergeordneten NodeList in dessen übergeordneten Node)

man müßte dann nicht ständig XML.RootNode.Node sondern direkt XML.Node nutzen

einige in TXMLNode integrierte Funktionen der untergeordneten TXMLNodeList:

Zitat von TXMLNode:

Node.Attribute[] statt Node.Attributes.Attribute[] bzw. Node.Attributes[/size] (da Attribute = default)
Node[] statt Node.Nodes.Node[] bzw. Node.Nodes[] (da Node = default)
Node.NodeNF[] statt Node.Nodes.NodeNF[]
Node.NodeList[] statt Node.Nodes.NodeList[]
Node.AddNode() statt Node.Nodes.Add()

würde jemand was dagegen haben?
(ihr habt noch etwas Zeit zum überlegen, ich mach erstmal die aktuelle Array-Umstellung fertig)

[Satty67]

Zitat von himitsu:

würde jemand was dagegen haben?

Wir wollen Bilder... ähh Beispiele

Also beim "Nachbilden" meiner bisherigen INI-Files gehe ich so vor:

Delphi-Quellcode:

var
  XML  : TXMLFile;
  SecNode, DataNode : TXMLNode;
begin
  XML := TXMLFile.Create(nil);
  XML.RootNode.Name := 'Im_a_Rootname';

  // with Blöcke
  with XML.RootNode.Nodes.Add('Section_1') do
  begin
    Attributes.Add('methode','with bloecke');
    with AddNode('Value_1') do
      Data := 'Section 1 Value 1';
    with AddNode('Value_2') do
      Data := 'Section 1 Value 2';
  end;

  // Klassisch
  SecNode := XML.RootNode.Nodes.Add('Section_2');
  SecNode.Attributes.Add('methode', 'klassisch');
  DataNode := SecNode.AddNode('Value_1');
  DataNode.Data := 'Section 2 Value 1';
  DataNode := SecNode.AddNode('Value_2');
  DataNode.Data := 'Section 2 Value 2';

  XML.SaveToFile('F:\WorkTemp\himXMLtest.xml');
  XML.Free;

Mit meinem simplen Verständnis komme ich gut damit klar. Wir würde sowas in der neuen Aufteilung aussehen?



btw. die with-Blöcke schreibe ich so, weil ich es schlank mag:

Delphi-Quellcode:

with XML.RootNode.Nodes.Add('Section_1') do begin
  Attributes.Add('methode','with bloecke');
  with AddNode('Value_1') do Data := 'Section 1 Value 1';
  with AddNode('Value_2') do Data := 'Section 1 Value 2';
end;

Aber ich will nicht, das Ihr das seht und habe es vorm posten geändert... (aber bitte nicht himitsu's thread mit einer Diskussion darüber "versauen", Danke)

[himitsu]

Wo ich das grad sah ....

Delphi-Quellcode:

XML := TXMLFile.Create(nil);
XML.RootNode.Name := 'Im_a_Rootname';

Nodename jetzt [add](also beim nächsten Update)[/add] im Create mit integriert (wenn man es denn nutzen möchte)
XML := TXMLFile.Create(nil, 'Im_a_Rootname'); (macht sich für den nächsten Schritt auch einfacher)

Zitat von Satty67:

Wir wollen Bilder... ähh Beispiele

... Wie würde sowas in der neuen Aufteilung aussehen?

Delphi-Quellcode:

var
  XML  : TXMLFile;
  SecNode, DataNode : TXMLNode;
begin
  XML := TXMLFile.Create(nil, 'Im_a_Rootname');

  // with Blöcke
  with XML.AddNode('Section_1') do
  begin
    Attributes.Add('methode', 'with bloecke');
    AddNode('Value_1').Data := 'Section 1 Value 1';
    AddNode('Value_2').Data := 'Section 1 Value 2';
  end;

  // Klassisch
  SecNode := XML.AddNode('Section_2');
  SecNode.Attributes.Add('methode', 'klassisch');
  DataNode := SecNode.AddNode('Value_1');
  DataNode.Data := 'Section 2 Value 1';
  DataNode := SecNode.AddNode('Value_2');
  DataNode.Data := 'Section 2 Value 2';

  XML.SaveToFile('F:\WorkTemp\himXMLtest.xml');
  XML.Free;

es wäre praktisch so, daß die XML-Klasse dann selber wie ein Node (der RootNode) nutzbar wäre

Zitat von Satty67:

Mit meinem simplen Verständnis komme ich gut damit klar.

schön zu hören

Zitat von Satty67:

btw. die with-Blöcke schreibe ich so, weil ich es schlank mag:

das with kannst hier sogar ganz weglassen

Delphi-Quellcode:

with XML.AddNode('Section_1') do begin
  Attributes['methode'] := 'with bloecke';
  AddNode('Value_1').Data := 'Section 1 Value 1';
  AddNode('Value_2').Data := 'Section 1 Value 2';
end;

[Satty67]

Also mir würde die neue Aufteilung keine Schwierigkeiten bereiten und die angesprochenen Vorteile sehe ich genauso.

Das man beim Lesen dann XML(file) gleich als den Baum itself sieht, ist wirklich eleganter. Die Anwendung mit with ist nochmal etwas kompakter.

Mein Fazit:

Fand die bisherige Variante Ok, der neue Vorschlag nochmal besser.

Mal sehen, ob sonst noch jemand was zu schreibt, aber allgemein wirf die Klasse scheinbar nicht viele Fragen/Kritik auf.

[himitsu]

OK, dann setz ich mich mal daran


Für Leute wie Luckie, ist die Classes-Unit "deaktivierbar" (siehe Compilerschalter UseClassesUnit in himXML.pas).

Allerdings gehen dann einige Funktionen flöten, da ich dann nicht jeden popligen Stream redefinieren will.

Delphi-Quellcode:

TXMLFile = Class
Public
  {$IFDEF UseClassesUnit}
  Procedure LoadFromResource(Instance: THandle; Const ResName: String;  ResType: ...
  Procedure LoadFromResource(Instance: THandle;       ResID:   Integer; ResType: ...
  Procedure LoadFromXML     (Const XMLString: AnsiString);
  Procedure LoadFromXML     (Const XMLString: TWideString);
  Procedure SaveToXML       (Var   XMLString: AnsiString);
  Procedure SaveToXML       (Var   XMLString: TWideString);
  Property  asXML: AnsiString;
  {$ENDIF}
End;

TXMLNode = Class
Public
  {$IFDEF UseClassesUnit}
  Property  XMLData: TWideString;
  {$ENDIF}
End;

In der himXML_Tools.pas wurde an entsprechender Stelle (TXMLIniFile.ReadBinaryStream und Co.) eine Umleitung eingebaut, da dort Aufgrund der Nutzung von TStringList Classes nicht deaktiviert werden kann (falls man diese Zusatzunit nutzt und in himXML.pas es dennoch abgeschaltet hat)


Die Demo_Tree.dpr würde überarbeitet:
es gibt jetzt eine Ladefortschrittsanzeige und das Füllen der Treeview kann via [X] abgebrochen werden


Die Parsingfunktion wude überarbeitet, an vielen Stellen gab es ja 2 Funktionsaufrufe pro gelesendem Zeichen
While _CheckLen(i, i, P) and CheckChar(P[i], xcSpace) do Inc(i); stattdessen gibt es jetzt nur noch eine Funktions, in welcher durchschnittlich nur noch eine optimiertere Inline-Funktion pro Zeichen vorkommt.
_Search(P, i, 0{isSpace...}); (wenn ich da alles geprüft hab, dann kommen die alten, auskommentieren Schleifen auf der TXMLFile.ParsingTree raus)



Hab noch 'nen krasses SpeedUp hinbekommen (teilweise um über 90% runter) und das vorwiegend nur dadurch, daß ich Delphi teilweise die "sinnlose" Speicherverwaltung abnahm.

Speziell Length(S) und S[x] für Wide-/UnicodeStrings hab ich durch eigene Inline-Funktionen ersetzt.
Was hatt denn bitte sehr ein UniqueString in Length zu suchen? (und das was noch nichtmal alles)


Dann bin ich sehr überrascht:
Erstmal ist D2009 manchmal sogar einen Hausch schneller, als TDE und die Dateigrößer
Und normaler Weise wird doch mit jeder neuen Delphi-Version die EXE etwas größer, aber ...
(die CheckLibs.dpr mit allen Tests für meine Lib und die anderen Libs deaktivert)
> TDE > 471 KB
> D09 > 224 KB
Und auch wenn beim UnicodeString mehr intern passiert, wirkt sich insgesammt die Refferenzzählung etwas positiver aus.
Nur das mit den Dateigrößen ist mir im Moment noch etwas schleierhaft.
OK, dafür verbraucht TDE teilweise bis 10% weniger RAM.


Da Aufgrund der neuen Node-Verwaltung TXMLNode um 8 Byte größer wurde, passen jetzt nicht mehr über 4.000.000 der Testnodes (incl. 2 Attributen und etwas Text) in 2 GB RAM, sondern nur noch 2.500.000 bis 2.800.000 (je nach Speicherfragmentierung und -auslastung)



aktuelle Tests/Vergleiche:

Code:

> Delphi 2009 (CheckLibs_D2009.exe)
> Turbo Delphi Explorer (CheckLibs_TDE.exe)
> alle Tests komplett (CheckLibs.exe bzw CheckLibs.dpr)

********************************************************************************
***** Delphi 2009 **************************************************************
********************************************************************************

fill TXMLFile with 10.000 nodes and save this into a file
create:0  fill:10  save:6  free:3


fill TXMLFile with 10.000 nodes, delete 8.000 nodes and save this into a file
create:0  fill:10  delete:355  save:3  free:0


fill TXMLFile with 10.000 nodes with attributes and save this into a file
create:0  fill:26  save:14  free:4


fill TXMLFile with 100.000 nodes, save into and load this from a file
create:0  fill:225  save:134  free:50
create:0  load:349  free:47


fill TXMLFile with 10.000 nodes with attributes and search nodes
create:0  fill:26  search:2519  free:4


fill TXMLFile with 3.500.000 nodes, save into and load this from a file
create:0  fill:16895  save:11906  free:2489
create:0  load:24578  free:2376


load a file into TXMLFile with 3.500.000 nodes as SAX mode
create:0  load:32381  free:0

********************************************************************************
***** Turbo Delphi Explorer ****************************************************
********************************************************************************

fill TXMLFile with 10.000 nodes and save this into a file
create:0  fill:13  save:6  free:3


fill TXMLFile with 10.000 nodes, delete 8.000 nodes and save this into a file
create:0  fill:14  delete:391  save:3  free:0


fill TXMLFile with 10.000 nodes with attributes and save this into a file
create:0  fill:42  save:18  free:7


fill TXMLFile with 100.000 nodes, save into and load this from a file
create:0  fill:332  save:176  free:87
create:0  load:463  free:97


fill TXMLFile with 10.000 nodes with attributes and search nodes
create:0  fill:45  search:2669  free:8


fill TXMLFile with 3.500.000 nodes, save into and load this from a file
create:0  fill:24055  save:15371  free:5979
create:0  load:31400  free:6208


load a file into TXMLFile with 3.500.000 nodes as SAX mode
create:0  load:48734  free:0

********************************************************************************
***** komplett (D2009) *********************************************************
********************************************************************************


SetProcessAffinityMask: OK

use QueryPerformanceCounter

precreating used strings - do not create and convert this within the measuring
create:39


fill TXMLFile with 10.000 nodes and save this into a file
create:0  fill:9  save:6  free:2

fill MS-XML-DOM with 10.000 nodes and save this into a file
create:3  fill:6827  save:157  free:0

fill ThaXML with 10.000 nodes and save this into a file
create:0  fill:4  save:11  free:33


fill TXMLFile with 10.000 nodes, delete 8.000 nodes and save this into a file
create:0  fill:9  delete:392  save:3  free:0

fill MS-XML-DOM with 10.000 nodes, delete 8.000 nodes and save this into a file
create:0  fill:6778  delete:88233  save:88  free:0

fill ThaXML with 10.000 nodes, delete 8.000 nodes and save this into a file
create:0  fill:4  delete:35  save:0  free:0


fill TXMLFile with 10.000 nodes with attributes and save this into a file
create:0  fill:26  save:36  free:5

fill MS-XML-DOM with 10.000 nodes with attributes and save this into a file
create:0  fill:6819  save:113  free:0

fill ThaXML with 10.000 nodes with attributes and save this into a file
create:0  fill:5  save:11  free:33


fill TXMLFile with 100.000 nodes, save into and load this from a file
create:0  fill:211  save:134  free:48
create:0  load:324  free:43

fill MS-XML-DOM with 100.000 nodes, save into and load this from a file
create:0  fill:750833  save:247  free:0
create:0  load:317  free:93

fill ThaXML with 100.000 nodes, save into and load this from a file
create:0  fill:46  save:117  free:2922
create:0  load:401087  free:2920


fill TXMLFile with 10.000 nodes with attributes and search nodes
create:0  fill:25  search:2577  free:4

fill MS-XML-DOM with 10.000 nodes with attributes and search nodes
create:0  fill:6985  search:140237  free:0

fill ThaXML with 10.000 nodes with attributes and search nodes
create:0  fill:5  search:10136  free:33


fill TXMLFile with 3.500.000 nodes, save into and load this from a file
create:0  fill:15785  save:11503  free:2400
create:0  load:24203  free:2268

fill MS-XML-DOM with 3.500.000 nodes, save into and load this from a file
error: das ist wirklich keinem zumutbar

fill ThaXML with 3.500.000 nodes, save into and load this from a file
error: EOutOfMemory würde sich so ab 2.000.000 melden
error: ab etwa 500.000 braucht .Free ewig und es steigt expotentiel an
       es sind hiermit also efektiv nicht viel mehr als 200.000 möglich
fill ThaXML with 200.000 nodes, save into and load this from a file
create:0  fill:242  save:1054  free:11694
error: das Laden würde ewig brauchen
fill ThaXML with 15.000 nodes, save into and load this from a file
create:0  fill:17  save:62  free:54
create:0  load:47741  free:54


load a file into TXMLFile with 3.500.000 nodes as SAX mode
create:0  load:31928  free:0

load a file into MS-XML-DOM/SAX with 3.500.000 nodes as SAX mode
error: ich weiß noch nicht wie das geht

load a file into ThaXML with 3.500.000 nodes as SAX mode
error: this class do not support this

press [enter]

Download siehe Post #1
( ~1 MB incl. 2 XML-Testdateien und den wichtigsten Binaries )

[himitsu]

ihr werdet es nicht glauben, aber es gibt nun auch einen SAX-Parser

er benutzt fast die selbe Leseroutine wie TXMLFile, nur daß diese aufgesplittet und etwas modifiziert wurde.

Code:

fill TXMLFile with 3.500.000 nodes, save into and load this from a file
create:0  fill:15852  save:10416  free:2378
create:0  load:24470  free:2237

load a file into TXMLFile with 3.500.000 nodes as virtual SAX mode
create:0  load:32710  free:0

load a file over TSAXParser with 3.500.000 nodes
create:0  load:14488  free:0

er ist auch garnicht so schwer zu nutzen

Delphi-Quellcode:

SAX := TSAXParser.Create(nil);
Try
  SAX.Open('Test.xml');
  While SAX.Read(Node, B) do Begin
    ...
  End;
Finally
  SAX.Free;
End;

Delphi-Quellcode:

TSAXParser = Class
  Procedure Open(Const FileName: TWideString);
  Procedure Open(Stream: TStream; ...);
  Procedure Open(Buffer: Pointer; Len: Integer; ...);
  Property  FileName: TWideString;
  Procedure Close;

  Property  Options:              TXMLOptions;
  Property  Version:              TWideString;
  Property  Encoding:             TWideString;
  Property  Standalone:           TWideString;

  Property  Levels:               Integer;
  Property  Node[Level: Integer]: TSAXNode;

  Function  Read(Out Node: TSAXNode; Out isClosedTag: Boolean): Boolean;

  Function  Progress:             LongInt;
End;

TSAXNode = Class
  Property Level: Integer;

  Property NodeType: TXMLNodeType;

  Property FullPath:  TWideString;
  Property Name:      TWideString;
  Property Namespace: TWideString;
  Property NameOnly:  TWideString;

  Property AttributeCount: Integer;
  Property AttributeName[Index: LongInt]: TWideString;
  Property Attribute[Const IndexOrName: TIndex]: Variant;

  Property isOpenedTag: Boolean;

  Property Data:        Variant;
  Property SubNodes:    Integer;
End;

wird dann mit'm nächsten Update hochgeladen

[sh17]

Hi himitsu, ich hab mir jetzt zwar den ganzen Thread durchgelesen, muss aber trotzdem nochmal fragen, ob das Teil auch mit D6 funzt? Wenn das so weiter geht, könnte ich ja evtl. OmniXML ablösen, was ja nicht grad klein ist. Für den SAX-Parser nehm ich momentan LibExpatW

Wg der Lizenz - Nimm doch einfach die vom VST - Kombination von MPL und GPL. Ist sicher eine gute Lösung. Ansonsten evtl. die Apache-License.

VG, Sven

[himitsu]

Aktuell ist ist es (hab's vor kurzem auch mal im ersten Post eingefügt) ab Delphi 2006 bzw Turbo Delphi und auch Delphi 2009 kompatibel.

Weiter Runter ist geplant, aber aufgrunde des Aufwandes für einen Zeitpunkt geplant, wo das Projekt etwas ausführlicher getestet ist.

Immerhin wird es dann eine Extra-/Nebenversion und es wäre zu aufwendig dann eventuelle grobe Fehler dann in 2 Versionen einzeln beheben zu müssen.

Aber da es aktuell gut läuft und wird diese Version wohl bald soweit sein, daß ich mit der anderen anfangen kann ... aber bis wie weit ich runterkomm, weiß ich noch nicht ... muß ich erst ausprobieren, wobei ich es selber bis auf D7 runterbekommen könnte (dieses hab ich noch, um selber testen zu können)

Zitat von Satty67:

Bin weinend vom PC weg, Du nutzt intensiv die neuen Möglichkeiten, die in D5 zu aufwändig umsetzbar sind.

PS: für die Testdatei mit 338 MB / 3,5 Millionen Nodes > Test siehe Post #58
TXMLFile > erstellen 15s 21 MB/s > schreiben 10s 33 MB/s > lesen 25s 14 MB/s
TSAXParser > lesen 15s 23 MB/s
getestet mit 4 GB RAM und 3 GHz