AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Thema durchsuchen
Ansicht
Themen-Optionen

Probleme mit Trunc

Ein Thema von hhcm · begonnen am 19. Apr 2018 · letzter Beitrag vom 21. Apr 2018
 
Benutzerbild von himitsu
himitsu
Online

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
44.394 Beiträge
 
Delphi 12 Athens
 
#23

AW: Probleme mit Trunc

  Alt 21. Apr 2018, 23:46
Zitat:
Und das ist das was du anscheinend bei dem kleinen Excel-Beispiel nicht verstanden hast, weil du mit einer Formel angekommen bist. Irgendwo wird abgeschnitten.

57544725553442900000000000000000000000000,00
Aus diesem Grund gibt es bei den Fließkommatypen auch die Angabe der Signifikanten Dezimalstellen.

Ja, einige Typen können locke Zahlen mit mehreren tausend Dezimalstellen vor und hinter dem Komma aufnehmen, aber egal wie groß der Wert ist, nur die "größten" X Dezimalstellen sind quasi "richtig" und alles nachfolgendes ist "nicht definiert", also "zufällig".

Problematisch wird es dann auch noch, wenn dann unterschiedlich große Zahlen miteinander verrechnet werden, wie z.B.
11111222223333344444555556666677777888889999,0 + 0,0000000000000000000000000000000000000001
Hier kann man 0,0000000000000000000000000000000000000001 so oft dazu rechnen, wie man will, aber das Ergebnis wird dennoch niemals größer werden.

Für sowas gibt es dann angepasste Bibliptheken, wenn man sowas unbedingt braucht.
Ein Therapeut entspricht 1024 Gigapeut.
  Mit Zitat antworten Zitat
 


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 09:38 Uhr.
Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024-2025 by Thomas Breitkreuz