AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Thema durchsuchen
Ansicht
Themen-Optionen

DB Tabelle beschleunigen

Ein Thema von Ykcim · begonnen am 12. Jul 2019 · letzter Beitrag vom 18. Jul 2019
Antwort Antwort
Seite 2 von 3     12 3      
Delphi.Narium

Registriert seit: 27. Nov 2017
2.490 Beiträge
 
Delphi 7 Professional
 
#11

AW: DB Tabelle beschleunigen

  Alt 12. Jul 2019, 15:43
Tabellendefinition haben wir.

Es fehlen: Die Indexdefinitionen!
Die auszuführenden SQLs!

Ohne diese Angaben kann man nicht helfen, sondern nur rumspekulieren.

Index erstellen: https://www.w3schools.com/sql/sql_create_index.asp

Grundlagen für SQL aneignen: Dringend. https://www.google.com/search?q=grun...t=firefox-b-ab
  Mit Zitat antworten Zitat
Rolf Frei

Registriert seit: 19. Jun 2006
647 Beiträge
 
Delphi 11 Alexandria
 
#12

AW: DB Tabelle beschleunigen

  Alt 12. Jul 2019, 15:49
Ich benutze einen MySQL Server 5

Kannst Du mir ein Beispiel aufschreiben, wie ich den Primary in mein SQL-Statement einbauen muss?

Danke
Patrick
Das kannst du nicht im SQL bestimmen. Es kommt darauf an was du bei der DB-Erstellung für Keys definiert hast. Diese werden soweit es eben geht, vom SQL Optimizer benutzt. Wie gesagt müsste der Optimizer für dein SQL so den Primary Key nutzen, sofern das Feld waaunr auch wirklich das erste Feld im Key ist. Ansonsten könnte er den Key nicht nutzen und er würde einen Scan über alle Records machen. Dann müsstest du einen eigenen Index für das Feld "waaunr" erstellen. Der Optimizer schaut dann selber, ob da ein Index passt, den er nutzen kann.

Geändert von Rolf Frei (12. Jul 2019 um 15:58 Uhr)
  Mit Zitat antworten Zitat
Rolf Frei

Registriert seit: 19. Jun 2006
647 Beiträge
 
Delphi 11 Alexandria
 
#13

AW: DB Tabelle beschleunigen

  Alt 12. Jul 2019, 15:56
Ich bin mir grad nicht 100% sicher, aber ist der primary key so in dieser Form nicht ein kombinierter Schlüssel, und bringt auch wirklich nur etwas, wenn man über alle 3 Felder filtert?
Das hängt vom verwendeten DBMS ab. Die DB die ich selber nutze, würde in diesem Fall den PK benutzen, da es das erste Feld im Index ist. Würde nach den 2. Feld im Key gesucht, ginge das natürlich nicht. Was MySQL hier macht weiss ich leider auch nicht.
  Mit Zitat antworten Zitat
Ykcim

Registriert seit: 29. Dez 2006
Ort: NRW
824 Beiträge
 
Delphi 10.4 Sydney
 
#14

AW: DB Tabelle beschleunigen

  Alt 12. Jul 2019, 16:02
Zitat:
1. Wie schnell ist die?
1,7951 s

Zitat:
2. Und was passiert, wenn du die Query 2mal hintereinander ausführst?
0,0008 s

Zitat:
3. Was läuft noch auf dem Datenbank-Server, vielleicht ein Domain-Controller?
Nichts, auf dem Server läuft ausschließlich der MySQL-Server

Zitat:
Es fehlen: Die Indexdefinitionen!
Leider weiß ich nicht, was damit gemeint ist.

Zitat:
Die auszuführenden SQLs!
Ich glaube zwar nicht, dass das weiterhilft, wenn schon die einfachsten Abfragen Probleme bereiten, aber nachfolgend die Abfragen...
Delphi-Quellcode:
procedure TMySQLDB.Get_Alternativen(ArtikelNr, Bereich: string);
var I: integer;
      where1: string;
      Cols: TCols;
      Rows: TRows;
begin
   where1:='';
   FMySelectQuery.SQL.Clear;
   FMySelectQuery.SQL.Add('select max(a.waaunr) from as400archiev as a '+
                          'where a.watenr=:artikel '+
                          'and left(a.oamanr,2) in (SELECT arbeitsplatzkz from bereiche '+
                          'where bereiche_text= :bereich ) '+
                          'group by a.oamanr ');
   FMySelectQuery.ParamByName('artikel').AsString:=ArtikelNr;
   FMySelectQuery.ParamByName('bereich').AsString:=Bereich;
   ExecQuery(FMySelectQuery, Cols, Rows,0);
   if FMySelectQuery.RecordCount=0 then begin
      SetLength(FRows_Alternativen, Length(FCols_Alternativen),0);
      Exit;
   end;
   for I := 0 to Length(Rows[0]) -1 do begin
      if I=0 then
         where1:=where1+QuotedStr(Rows[0,I])
      else
         where1:=where1+', '+QuotedStr(Rows[0,I])
   end;
   FMySelectQuery.SQL.Clear;
   FMySelectQuery.SQL.Add('select oamanr, mamabz, oaagbz from as400archiev '+
                          'where waaunr in ('+where1+') '+
                          'and left(oamanr,2) in (SELECT arbeitsplatzkz FROM bereiche '+
                          'where bereiche_text=:bereich) '+
                          'group by oamanr' );
   FMySelectQuery.ParamByName('bereich').AsString:=Bereich;
   ExecQuery(FMySelectQuery, FCols_Alternativen, FRows_Alternativen,0);
end;
Mit der ersten Abfrage hole ich mir den letzten Auftrag des Artikels, der beendet wurde und in der zweiten hole ich mir die Maschineninformationen. Die erste Query mache ich, weil sich Angaben zur Geschwindigkeit (in oaagbz) der Maschine von Zeit zur Zeit ändern. Also hole ich mir damit den letzten Stand.

Zitat:
Grundlagen für SQL aneignen: Dringend.
Werde mir die Links am WE vornehmen...

Vielen Dank
Patrick
Patrick
  Mit Zitat antworten Zitat
hoika

Registriert seit: 5. Jul 2006
Ort: Magdeburg
8.275 Beiträge
 
Delphi 10.4 Sydney
 
#15

AW: DB Tabelle beschleunigen

  Alt 12. Jul 2019, 16:05
Hallo,
MySQL multi-column indices

https://dev.mysql.com/doc/refman/8.0...n-indexes.html

Laut der Tabellen-Beschreibung ist der Index in der richtigen Reihenfolge.
Und einen separaten Index hatte der TE auch schon probiert, hatte aber auch nichts geholfen.
Heiko
  Mit Zitat antworten Zitat
hoika

Registriert seit: 5. Jul 2006
Ort: Magdeburg
8.275 Beiträge
 
Delphi 10.4 Sydney
 
#16

AW: DB Tabelle beschleunigen

  Alt 12. Jul 2019, 16:13
Hallo,
Indexdefinition = Welche Indizes gibt es.

select max(a.waaunr) from as400archiev as a
where a.watenr=:artikel
and left(a.oamanr,2) in (SELECT arbeitsplatzkz from bereiche
where bereiche_text= :bereich )
group by a.oamanr

Das in (also das SubSelect) könnte bei MySQL zu Problemen führen,
wenn der SQL-Server das für jeden einzelnen Datensatz ausführt.
Mach mal 2 Queries draus, hole dir mit Query1 die arbeitsplatzkz
und benutze das Ergebnis Query2 (Select max).

SubSelects
https://stackoverflow.com/questions/...low-workaround

MySQL müsste auch einen Planalyzer haben, der einen Query-Plan erzeugt,
also sagt, wie der DB-Server intern eine Query abarbeitet.

Wenn dann z.B. bei
SELECT arbeitsplatzkz from bereiche
where bereiche_text= :bereich
steht natural scan, muss die komplette Tabelle durchlaufen werden, um das Ergebnis zu bekommen.
Liegt ein Index auf bereiche_text, würde der die Suche beschleunigen.



Zu meinen Fragen:
1.9 Sekunden bei Select* und Select ein_Feld.

Tja, ein Planalyzer könnte dir jetzt sagen, ob die Query-Ausführung (Execute) langsam war,
oder das Übermitteln der Daten über das Netz (Fetch).

Ohne einen Planalyzer könntest Du deine Anwendung auch auf dem SQL-Server mal selber laufen lassen.
Dann ist der Netzeinfluss erst mal weg.
Heiko

Geändert von hoika (12. Jul 2019 um 16:29 Uhr)
  Mit Zitat antworten Zitat
Delphi.Narium

Registriert seit: 27. Nov 2017
2.490 Beiträge
 
Delphi 7 Professional
 
#17

AW: DB Tabelle beschleunigen

  Alt 12. Jul 2019, 16:40
SQL-Code:
select max(a.waaunr) from as400archiev as a
where a.watenr = :artikel
and left(a.oamanr,2) in
(SELECT arbeitsplatzkz from bereiche where bereiche_text = :bereich)
group by a.oamanr
Zuerst: wielange dauert das?

SELECT arbeitsplatzkz from bereiche where bereiche_text = :bereich

Wie lange dauert es, wenn Du einen Index auf bereiche_text erstellst?

Funktioniert das? Wird es schneller?
SQL-Code:
select max(a.waaunr) from as400archiev a, bereiche b
where a.watenr = :artikel
and left(a.oamanr,2) = b.arbeitsplatzkz
and bereiche_text = :bereich
group by a.oamanr
Alternativ:
SQL-Code:
select max(a.waaunr) from as400archiev a
inner join bereiche b on left(a.oamanr,2) = b.arbeitsplatzkz
where a.watenr = :artikel
and b.bereiche_text = :bereich
group by a.oamanr
Alles nur ungetestet hingedaddelt.

Sowas left(a.oamanr,2) in 'ner Wherebedingung ist nicht gerade dafür bekannt, dass entsprechende Abfragen schnell werden, in der Regel schließt sowas eine Indexnutzung aus.

Auch ein in (select spalte from tabelle) in einer Wherebedingung ist nicht zwingend zur Beschleunigung einer Abfrage geeignet, eher das Gegenteil.

Achso: Und einfache Abfragen sind das ganz und gar nicht, die Schwierigkeit einer Abfrage ergibt sich nicht daraus, ob es schwierig ist sie zu schreiben, sie zu formulieren, sondern daraus, wie schwierig ihre Ausführung für die Datenbank wird.

Schlimmste Laufzeitannahme:

Wenn Deine Tabelle 2.5 Mio Datensätze hat und Du per left(a.oamanr,2) für jeden Datensatz eine Einschränkung baust, so muss die Datenbank 2,5 Mio mal eben diesen Substring bilden. Und dann muss sie 2.5 Mio mal dieses SQL SELECT arbeitsplatzkz from bereiche where bereiche_text = :bereich ausführen, obwohl es eigentlich immer das gleiche Ergebnis liefert.
Dann muss sie sich alle die Sätze merken, bei der die Bedingung zutrifft und anschließend davon den Satz mit der größten waaunr je oamanr auswählen.

Für meine Begriffe sind bei dem Aufwand die Antwortzeiten ja eigentlich garnicht mal so übel
  Mit Zitat antworten Zitat
mkinzler
(Moderator)

Registriert seit: 9. Dez 2005
Ort: Heilbronn
39.858 Beiträge
 
Delphi 11 Alexandria
 
#18

AW: DB Tabelle beschleunigen

  Alt 12. Jul 2019, 16:49
Zitat:
Sowas left(a.oamanr,2) in 'ner Wherebedingung ist nicht gerade dafür bekannt, dass entsprechende Abfragen schnell werden, in der Regel schließt sowas eine Indexnutzung aus.
Oder man erstellt ein "Schattenfeld" oder einen expression index
Markus Kinzler
  Mit Zitat antworten Zitat
Delphi.Narium

Registriert seit: 27. Nov 2017
2.490 Beiträge
 
Delphi 7 Professional
 
#19

AW: DB Tabelle beschleunigen

  Alt 12. Jul 2019, 16:53
Zitat:
Sowas left(a.oamanr,2) in 'ner Wherebedingung ist nicht gerade dafür bekannt, dass entsprechende Abfragen schnell werden, in der Regel schließt sowas eine Indexnutzung aus.
Oder man erstellt ein "Schattenfeld" oder einen expression index
Ja durchaus, aber hier kommen wir dann in den Bereich der Optimierung für Fortgeschrittene

Momentan ist aber noch unklar, was ein Index überhaupt ist.
  Mit Zitat antworten Zitat
peterbelow

Registriert seit: 12. Jan 2019
Ort: Hessen
701 Beiträge
 
Delphi 12 Athens
 
#20

AW: DB Tabelle beschleunigen

  Alt 12. Jul 2019, 17:49
Hallo Zusammen,

ich habe eine Tabelle mit Auftragsdaten, in der ich historische Daten speichere. In dieser Tabelle sind über 2,5 Mio Datensätze. AUs diesem Grund sind die Abfragen sehr langsam (1,6-2,1 sek). Ich habe keine Idee, ob / wie ich die Tabelle schneller bekomme.
So ist die Tabelle aufgebaut:
Delphi-Quellcode:
CREATE TABLE `nedcom`.`as400archiev` (
  `WAAUNR` varchar(20) NOT NULL COMMENT 'FA-Nr',
  `WAAUPO` varchar(20) NOT NULL COMMENT 'FA-Zusatz',
  ...snip...
  PRIMARY KEY (`WAAUNR`,`WAAUPO`,`OAAGNR`)
) ENGINE=MyISAM DEFAULT CHARSET=latin1 ROW_FORMAT=DYNAMIC;
Hat jemand eine Idee?

Vielen Dank
Patrick
Was der Server braucht is memory, je mehr desdo besser. Je mehr der Indexfiles und der Tabellen der Server im Speicher halten kann desdo schneller kann er Abfragen bearbeiten, denn der Zeitfresser sind die Diskzugriffe. Bei den meisten DBs kann man auch in der DB Konfiguration festlegen, wieviel Memory der Server für die diversen Caches verwenden darf (teilweise sind das per session Einstellungen, e.g. für temporäre Daten, die bei der Bearbeitung einer Abfrage anfallen). Wenn der DB Admin hier zu knauserig ist kann das drastische Auswirkungen auf die Performance haben.

Ansonsten ist vieles, wie schon in anderen Antworten gesagt, von der spezifischen Query abhängig. Die besseren Datenbanken bieten eine query plan analyzer an, mit dem man sich mal ansehen kann, wie der query optimizer sich das Vorgehen vorstellt und was er da Zeitbedarf abschätzt. Da kann man normalerweise sofort sehen, ob vorhandene Indizes verwendet werden oder der Optimizer auf einen full table scan ausweicht (schlecht, sehr schlecht!).

Es hängt auch von der Art der Query ab, ob die Datenbank schon Records zurückliefern kann, bevor der volle Resultset verfügbar ist. Sowas wie "distinct", "group by" oder "order by" in der query machen das unmöglich (es sei denn, ein order by kann direkt über einen Index realisiert werden). Verwendung von Funktionen in einer WHERE-Klausel (wie concat, upper, cast, etc.) machen es unmöglich, für den Zugriff einen Index auf dem betroffenen Feld zu verwenden, selbst wenn einer existiert.

Außerdem sind select * Abfragen Gift für die Performance, wenn man eigentlich nur einen Teil der Spalten braucht. Sowas erhöht einfach das Datenvolumen, was den Speicher des Servers belastet und die Datenübertragung zum Client bremst.

Außerdem sollte man immer im Hinterkopf behalten, dass auch Abfragen bei den meisten DB Servern in Transaktionen laufen und damit Serverresourcen belegen, bis die Abfragen geschlossen und die zugehörige Transaktion committed wurde (glücklicherweise macht das Client framework das normalerweise, wenn man eine Query schließt). Viele Abfragen offenzuhalten ist daher etwas, mit dem man sich weder bei DB Admins noch bei den Benutzern beliebt macht . Leider macht das typische Delphi RAD Design genau das...
Peter Below
  Mit Zitat antworten Zitat
Antwort Antwort
Seite 2 von 3     12 3      


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 05:45 Uhr.
Powered by vBulletin® Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz