Float nachkommastellen abschneiden???

[Fossibaer58809]

Gabs da nicht mal ne CPU mit einem Fehler in der Fließkommaeinheit?

Gruß

Michael

[nailor]

nein. floats werden dargestellt als (ich kann mich irren, jedenfalls werden nicht die ziffern gespeichert) basis, exponent und so nen kram. und da kann es sein, dass es zahlen gibt, die als ziffern simpel zu notieren sind, aber in der float-schreibweise garnicht darstellbar sind. dann wird halt die nächste darstellbare zahl genommen. und dann kann es schon sein, dass solche fehler entstehn

[FAlter]

1. FloatToStrF

2. z. B. periodische Dezimalbrüche, dazu gehört auch 0,01, würden unendlich viel Speicher verbrauchen... --> "binär gerundet" -> andere Zahl

[Steve]

Zitat:

Zitat von http://grouper.ieee.org/groups/754/faq.html

General Floating-Point Questions

Why is 0.1 not 0.1?

Binary floating-point numbers consist of signed integers multiplied by powers of two. When fractional, you can also consider them as integers divided by powers of two. The decimal number 0.1, or 1/10, is not an integer over a power of two. The 854 standard encompasses decimal arithmetic, but there is little hardware support outside of desktop calculators.
[...]

Nu alles klar? :zwinker:

Stephan

[Cicaro]

Mal ne andere Frage nebenbei: Hat Delphi nicht eine Funktion, mit der man NUR die Nachkommastellen extrahieren kann ? Also aus 15.67 möchte ich nur 0.67 weiterverarbeiten.

//edit: habs schon: Frac aus system.pas macht das.

[Bummi]

Frac()