Einzelnen Beitrag anzeigen

egentur

Registriert seit: 27. Sep 2006
Ort: Freising
60 Beiträge
 
Delphi 10.2 Tokyo Enterprise
 
#13

AW: FloatToStrF Rundungsfehler ?

  Alt 1. Feb 2021, 14:48
Danke für die vielen Hinweise!

Meine Situation ist folgende:
Ich habe eine Messgerät das den Wert immer mit 5 Nachkommastellen als String liefert. z.B. '0,50015'

Dieser wert wir dann für eine Nebenrechnung mit val() in eine Double Variable konvertiert.


Der User kann dann in der Applikation einstellen, ob er den Wert mit 5 oder weniger Nachkommastellen sehen will.

Mein Problem war eben, wenn er 4 Nachkommastellen einstellt,
wird aus der Double Var mit Floattostrf(var, fffixed,6,4) einmal 0,5002 und einmal 0,5001.

Welche Bedingung bringt Floattostrf dazu an der gleichen Codestelle zwei verschiedene Ergebnisse zu liefern ?
  Mit Zitat antworten Zitat