Firebird Datenbankgröße

[haentschman]

Hallo Thomas...

ich bin ein wenig von der Größe überfahren worden. Im Leben hätte ich (Bauchgefühl) nicht mit der Größe gerechnet.

Zum Thema Statistik:

Delphi-Quellcode:

T_RECORD_DATA (153) 
    Primary pointer page: 150, Index root page: 172 
    Data pages: 82929, data page slots: 82929, average fill: 63% 
    Fill distribution: 
         0 - 19% = 0 
        20 - 39% = 1 
        40 - 59% = 0 
        60 - 79% = 82928 
        80 - 99% = 0 
 
    Index FK_T_RECORD_DATA_1 (0) 
        Depth: 3, leaf buckets: 8073, nodes: 21680580 
        Average data length: 0.00, total dup: 21679353, max dup: 19155 
        Fill distribution: 
             0 - 19% = 1 
            20 - 39% = 0 
            40 - 59% = 2451 
            60 - 79% = 0 
            80 - 99% = 5621 
 
    Index T_RECORD_DATA_IDX1 (2) 
        Depth: 3, leaf buckets: 7010, nodes: 21680580 
        Average data length: 0.06, total dup: 20624315, max dup: 87 
        Fill distribution: 
             0 - 19% = 0 
            20 - 39% = 0 
            40 - 59% = 1 
            60 - 79% = 0 
            80 - 99% = 7009

... bedeutet ja, daß reichlich Platz verschwendet wird. Die Inserts laufen als Block wie hier empfohlen
http://www.delphipraxis.net/1256983-post42.html

Delphi-Quellcode:

execute block as begin //25Kb je Block
insert into T_RECORD_DATA...  // 200x je Block. Änderung der Menge machte keinen Unterschied.
end

Alle Blöcke laufen in einer Transaktion. Wo läßt sich da noch was rausholen.

Zitat:

Bzgl. Datenbank je Gerät. Im Prinzip musst du dann X Datenbanken bzgl. Schemastruktur auf einem entsprechenden Stand halten, jede Datenbank sichern etc., bei einem Firebird/ODS Upgrade diese sichern/wiederherstellen etc. Dann hast du vielleicht auch Stammdaten, die jedem Gerät gemein sind. Wie machst du das?

Ich würde nur diese eine Tabelle auslagern. Der Rest ist zusammengenommen, auch bei 500 Geräten, unter 30MB. Denkst du eher an eine Aufsplittung ab X GB? Geht das automatisch? Wo kann man das nachlesen?

[Union]

Vielleicht kannst Du Deine Speicherung auch der auf dem Gerät angleichen. Wenn ich mir die Struktur aus dem OP ansehe, habe ich da so Vermutungen:

• F_PARAMETER_ID ID /* ID = INTEGER NOT NULL */,
  Wie groß wird diese ID maximal? Wenn es z.b. so etwas wie max. 127 oder 255 wäre, könnte man das in einem Nibble, Byte oder Word zusammen mit z.b. POWER_STATE speichern
• F_TIMESTAMP_UNIX INTEGER_NORMAL /* INTEGER_NORMAL = INTEGER NOT NULL */,
  Wenn man die Basis des Timestamp (den Offset 0) in die nähere Vergangenheit setzt, kommt man auch mit weniger Platz aus.
• F_POWER_STATE INTEGER_NORMAL /* INTEGER_NORMAL = INTEGER NOT NULL */,
  Siehe Anmerkung zu Parameter-ID
• F_VALUE STRING10 /* STRING10 = VARCHAR(10) NOT NULL */
  Sind das wirklich individuelle Werte oder sind das Fixtexte? Je nach Anzahl der möglichen Fixtexte könnte man das dann als Index auf ein konstantes Fixtext-Array bzw. eine entsprechende normalisierte Fixtext-Tabelle verkleinern.

Nachteil wäre die Rechnerei die Du beim Auswerten hättest. Immer das Selbe: Platzersparnis <> Performance.

[Dejan Vu]

Ist das mit dem Platz im Jahr 2014 wirklich ein Problem?

[Lemmy]

Zitat von p80286:

Zitat von Lemmy:

@Thomas: ich habe das ehrlich gesagt noch nie gemacht - aber wo ist der Unterschied zwischen einer (eingestellten) Read-Only DB und einer DB in die ich keine Inserts mache? Sortiert FB hier dennoch immer wieder Daten um?

Du hast Die Updates übersehen! Je nach indizierten Feldern, kannst Du einige Änderungen in den Indizies bekommen, auch wenn der RecordCount stabil bleibt. Eine Readonly-DB ist eigentlich tot.

Gruß
K-H

Übersehen nicht, nur nicht explizit drauf eingegangen. Aufgrund der Beschreibung bin ich davon ausgegangen, dass die Daten einmal importiert werden um dann für Auswertungen vorgehalten werden bzw. bei Aktualisierungen die Daten als "Masseninserts" rein kommen und nicht individuell von den Anwendern geändert werden können / sollen. Und hier würde ich (wenn die DB-Größe wirklich ein Thema sein sollte) ggf. die beschrieben Dinge anwenden.

Unter 2.5 soll es ja auch möglich sein über StoredProcedures auf anderen DBs zugreifen zu können. Somit könnten diese Gerätedaten in eigene, ggf. auch als Read-OnlyDBs ausgelagert werden und die Pages voll gemacht werden.

Aber hier müsste der Threadstarter vielleicht noch Licht ins Dunkel bringen...

[Union]

Zitat von Dejan Vu:

Ist das mit dem Platz im Jahr 2014 wirklich ein Problem?

Von Anfang an Platz zu sparen und die Performance zu optimieren zeugt immer von zukunftsorientiertem Denken. Irgendwann ist nämlich 2015 oder es sollen noch mehr Geräte eingebunden werden oder der Zugriff erfolgt in eine Cloud mit begrenzeter Bandbreite oder...

Leider ist das Denken "wieso Performance? Ich hab unendlich viel Speicher und Dutzende von Prozessorkernen." genau so weit verbreitet wie die Verwechselung einer IDE mit einem Point-And-Click-Adventure.

[haentschman]

Danke an Alle...

@Union: interessante Ansätze.

Zitat:

Wie groß wird diese ID maximal?

unbekannt. Vermute 6 stellig. Für einen SmallInt zu groß. Außerdem benötige ich später sowohl den Timestamp als auch den Parameter im SQL bei den Auswertungen. Da bleibt nicht mehr viel übrig.

Zitat:

Wenn man die Basis des Timestamp (den Offset 0) in die nähere Vergangenheit setzt, kommt man auch mit weniger Platz aus.

Du meinst so nah, daß der Rest in einen SmallInt paßt? Geht nicht.
Im Beispiel: letzter DS = 1398999942 erster = 1381299573

Zitat:

Sind das wirklich individuelle Werte oder sind das Fixtexte?

Kann sowohl ein Zeichen ('+'), ein digitaler Wert ('0'/'1') oder ein analoger Wert ('-999.99' bis '999.99') sein. In der ersten Version waren das sogar getrennte Felder. Varchar(10) soll das absolute Maximum darstellen. Der Platzbedarf sollte ja nur so groß sein wie die Daten oder? Der Timestamp könnte auch ein TDateTime sein. Was braucht weniger Platz?

Zitat:

Ist das mit dem Platz im Jahr 2014 wirklich ein Problem?

Da macht es die Masse über die Dauer. Im Maximum könnten 500 Geräte für 10 Jahre gespeichert werden. (rechnerisch derzeit ca. 11 TB) Im Normalfall reden wir über 1 - 3 Geräte. Da ist das natürlich kein Problem...

PS: Es geht um Temperaturaufzeichnungen in der Lebensmittelbranche und Pharmaciebranche. Die genauen Speicherzeiträumen per Gesetzt sind mir unbekannt. Da aber das Finanzamt 10 Jahre Aufbewahrung hat ging ich mal ebenso davon aus.
Rein theoretisch hat das Gerät einen Speicherzyklus von 1-3 Jahren je nach Auflösung. Dann werden die ersten Daten wieder überschrieben. Per Gesetz sind die so zugelassen und man könnte die DB Speicherung auch darauf begrenzen. Ich will aber einen Mehrwert für den Kunden. Quasi das was die Hardware nicht leistet.

Zitat:

Übersehen nicht, nur nicht explizit drauf eingegangen. Aufgrund der Beschreibung bin ich davon ausgegangen, dass die Daten einmal importiert werden um dann für Auswertungen vorgehalten werden bzw. bei Aktualisierungen die Daten als "Masseninserts" rein kommen und nicht individuell von den Anwendern geändert werden können / sollen. Und hier würde ich (wenn die DB-Größe wirklich ein Thema sein sollte) ggf. die beschrieben Dinge anwenden.

Unter 2.5 soll es ja auch möglich sein über StoredProcedures auf anderen DBs zugreifen zu können. Somit könnten diese Gerätedaten in eigene, ggf. auch als Read-OnlyDBs ausgelagert werden und die Pages voll gemacht werden.

Im Prinzip sind die Daten als ReadOnly zu betrachten und werden nur für Auswertungen etc. vorgehalten. Um aber die Größe nicht bis ins unendliche wachsen zu lassen sollen die Ältesten nach einem Zeitraum X entfernt werden.

[Dejan Vu]

Zitat von Union:

Zitat von Dejan Vu:

Ist das mit dem Platz im Jahr 2014 wirklich ein Problem?

Von Anfang an Platz zu sparen und die Performance zu optimieren zeugt immer von zukunftsorientiertem Denken.

Zitat von Union:

Vielleicht kannst Du Deine Speicherung auch der auf dem Gerät angleichen.
Sind das wirklich individuelle Werte oder sind das Fixtexte? Je nach Anzahl der möglichen Fixtexte könnte man das dann als Index auf ein konstantes Fixtext-Array bzw. eine entsprechende normalisierte Fixtext-Tabelle verkleinern.
Nachteil wäre die Rechnerei die Du beim Auswerten hättest. Immer das Selbe: Platzersparnis <> Performance.

Das deckt sich jetzt nicht direkt mit 'Performance optimieren', sondern mit 'Speicherplatz sparen à la 1970'.

Das man Fehler speziell am Anfang vermeiden soll, ist mir auch klar, nur baut man manchmal eben auch am Anfang Fehler ein. Und wenn man schon überlegt, mit sparse-array Techniken hier Platz zu sparen, dachte ich mir, ich hebe mal einen Zeigefinger.

Wir leben im Jahr 2014, wo Festplattenspeicherplatz in Tera- und Petabytes gemessen wird. Wir sollten uns nicht darüber über Gebühr Gedanken machen, eine Datenbank von 1.6GB auf vielleicht 800GB zu komprimieren. Da spart man an Festplatten eigentlich kaum was (ok, sagen wir: alle 500 Jahre eine TB-Platte, oder bei 500 Geräten 1x pro Jahr 1 TB).

Wenn es ein Bug oder eine Fehleinstellung ist: Ja, natürlich muss man das in Ordnung bringen. Wenn ich signifikant Geld spare, auch ok. Aber das muss man immer wieder neu überlegen. Ich persönlich würde mich hüten, hier zu viel Energie hineinzustecken.

[p80286]

Zitat von haentschman:

.

Zitat:

Wie groß wird diese ID maximal?

unbekannt. Vermute 6 stellig. Für einen SmallInt zu groß. Außerdem benötige ich später sowohl den Timestamp als auch den Parameter im SQL bei den Auswertungen. Da bleibt nicht mehr viel übrig.

6Stellig halte ich für arg wenig. Bei 10 Geräten über 10 Jahre und 300 Tagen sind das gerade mal 33 Meßwerte am Tag.

Zitat:

F_VALUE STRING10

Zitat:

Kann sowohl ein Zeichen ('+'), ein digitaler Wert ('0'/'1') oder ein analoger Wert ('-999.99' bis '999.99') sein. In der ersten Version waren das sogar getrennte Felder. Varchar(10) soll das absolute Maximum darstellen. Der Platzbedarf sollte ja nur so groß sein wie die Daten oder?

Das kommt mir sehr seltsam vor. Ist es vllt. so daß ein Gerät nur 0/1 und ein anderes -999.99...+999.999 liefert?
aber wieso dann 10 Stellen?
wäre es da nicht vllt. besser ein Char (0,1,A..z..) und ein float-Feld zu nutzen?
(ich kenn die FB-Typen nicht sooo genau)

Noch ein Nachsatz zum Platzsparen. es ist Blödsinn Informationen so zu verstümmeln, daß sie u.U. wertlos werden - die Erhöhung eines Basidatums gehört für mich dazu. Aber die Einstellung Festplattenkapazität mißt sich in TByte da kann ich auch mal ein paar GByte über die Leitung schicken baut beim Anwender gewaltig Frust auf wenn er, weil sein Netzanschluß unterdimensioniert ist, wieder einmal 2 Minuten auf eine Antwort/Sendung warten darf.
(nichts für ungut, aber heute war unser Firmennetz wieder vollkommen zu ...)

Gruß
K-H

Gruß
K-H

[Dejan Vu]

Zitat von p80286:

... ich auch mal ein paar GByte über die Leitung schicken baut beim Anwender gewaltig Frust auf wenn er, weil sein Netzanschluß unterdimensioniert ist, wieder einmal 2 Minuten auf eine Antwort/Sendung warten darf.
(nichts für ungut, aber heute war unser Firmennetz wieder vollkommen zu ...)

Das ist ärgerlich. Wenn die Daten durch eine Leitung sollen, würde ich auch überlegen, wie ich das optimieren kann (sparse array), aber in einer DB achtet man auf korrekte Datengrößen. Bei einer Produktions-DB achtet man auf 3NF, aber bei einem Datengrab achtet man auf performante Auswertbarkeit.

Wenn also die Messdaten wirklich nur abgelegt werden sollen, ist eine Einzelspeicherung u.U. auch ein Overkill. Du könntest die Daten einfach in ein 'Array Of TRecord' ablegen und z.B. jeweils Arrays a 1000 Werte mit Zeitstempel ablegen. Ist zwar ziemlich bescheuert, aber mit SQL willst Du an die Einzeldaten dann ja eh nicht. Man kann auch zippen, um Redundanzen herauszuziehen und so z.B. eine ganze Stunde Messdaten eines temperierten Raumes (da ändert sich dann nicht viel) ziemlich platzsparend unterbringen. Die Daten sind in einem BLOB und der ist in einer separaten Datei und bis auf den Header in der Tabelle ist alles andere dynamisch.

[haentschman]

Gut, ich drösel das mal auf:

1 Gerät, 1-100 Devices(Busadressen) im 485er Bus. Jedes Device hat unterschiedliche Parameter (F_PARAMETER_ID) (Anzahl und Typ) welche von mir vor dem Datenabholen eine eindeutige ID bekommen. Diese wird dann in den RecordDaten den Bezug zum Gerät/Adresse herstellen.
Im Schnitt hat jedes Device(Busadresse) 13 Parameter, mal mehr mal weniger. Jeder Parameter kann entweder einen String (*, +), einen Index (0-4), einen Boolean (0,1) oder einen Float Wert (-999.99 - 999.99) haben. Deshalb die Speicherung als Char was alles abdeckt.
Beispiel: Bild 1

Zitat:

...aber mit SQL willst Du an die Einzeldaten dann ja eh nicht

Doch allerdings. Bsp. "Alle Daten der Parameter 100 und 101 im Zeitraum von bis" -> als Grafik

Zitat:

6Stellig halte ich für arg wenig

Damit war die ParameterID gemeint. 100 Adressen * 13 Parameter = 1300 bei Autoinc. Meine Aussage "unbekannt. Vermute 6 stellig." war eine Verwechslung. Es gibt noch eine ParameterID innerhalb des Devices(Busadresse) welche nur innerhalb der Adresse eindeutig ist.

Zitat:

Bei 10 Geräten über 10 Jahre und 300 Tagen sind das gerade mal 33 Meßwerte am Tag.

Im aktuellen Fall wird jeder Parameter 15 sekündlich aufgezeichnet. Dies kann auf sekündlich verringert werden.
damit ergeben sich pro Minute 100 Adressen * 13 Parameter * 4 = 5200 Datensätze/ Meßwerte

Zitat:

wäre es da nicht vllt. besser ein Char (0,1,A..z..) und ein float-Feld zu nutzen?

Deswegen habe ich ja als Datenbankfeld den "kleinsten gemeinsamen Nenner". Aktuell probiere ich als Value Char(7) und als PowerState Char(1) aus. Ich tippe auf 1,2GB statt 1,6GB wie vorher