Registriert seit: 6. Dez 2005
999 Beiträge
|
AW: Probleme mit Trunc
19. Apr 2018, 11:52
Ich vermute, daß Du mit der 32-Bit-Version rechnest.
Dann ist das erste Ergebnis verständlich, da a*100 als Extended gerechnet wird: Das Zwischenresultat 170.999999999999996 wird dann auf 170 abgeschnitten.
Unter 64-Bit ist das Zwischenresultat 171.000000000000000.
Im Deinem zweiten Fall wird das Zwischenresultat erst nach Double gerundet und in b gespeichet (hat also wie bei 64-Bit den Wert 171.0)
|