Registriert seit: 5. Jul 2006
Ort: Magdeburg
8.276 Beiträge
Delphi 10.4 Sydney
|
Rechnen mit double precision
19. Feb 2007, 09:10
Datenbank: FB • Version: 1.5 • Zugriff über: egal
Hallo #,
ich habe Records mit 2 double precision Feldern (Field_Min, Field_Sub).
Pro Eintrag (WorkStep) gibt es mehrere dieser Records
Etwa so
WorkStepId Min Sub
2 3.5 1.0
2 4.0 0.0
3 2.0 0.0
Die Werte enthalten maximal 2 Nachkommstellen.
Ich brauche die Summe aus Min-Sub von Workstep 2.
Man könnte das jetzt als
Select Sum(Min-Sub) From WorkStepTable Where WorkStepId=2 machen,
geht auch, aber DoublePrecision ist Fliesskomma (Rundungsfehler usw.)
Unter Delphi würde ich ja
Int (Int(Min*100)) - Int(Sub*100)) / 100
über auf Integer-Werte gehen können
Geht das auch unter Firebird (udf oder so ?)
Danke
Heiko
Heiko
|