AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Thema durchsuchen
Ansicht
Themen-Optionen

6.76609068141504e-318

Ein Thema von freimatz · begonnen am 24. Aug 2022 · letzter Beitrag vom 24. Aug 2022
 
freimatz

Registriert seit: 20. Mai 2010
1.490 Beiträge
 
Delphi 11 Alexandria
 
#1

6.76609068141504e-318

  Alt 24. Aug 2022, 11:54
Hallo zusammen,
oben genannte Zahl plagt mich. Wir haben umfangreiche automatische Test. Diese laufen auf 64-Bit und irgendwann erscheint dieser Wert statt 0. Es ist jedoch nicht immer stabil. Lokal bei mir arbeite ich mit 32-Bit (bei 64-Bit geht debuggen nicht) und dort kann ich das Problem nicht nachstellen.
Für den Anweder ist das egal, in der Anzeige wird eh gerundet. Der automatische Test wird dann halt rot.

Binär ist die Zahl laut Delphi-Debugger: $80 $E5 $14 $00 $00 $00 $00 $00
Vielleicht ist da nur das letzt Bit daneben. Man könnte das vielleicht einfach runden. Die Delphi-Rundungsfunktionen gehen aber alle auf Zehnerpotenzen. Ich versuche mal etwas wie "Result := Round(AValue / 1E-10) * 1E-10".

Ich habe eine vage Idee wie das gehen könnte, bin aber dankbar für weitere Anregungen.
  Mit Zitat antworten Zitat
 


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 07:30 Uhr.
Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz