Einzelnen Beitrag anzeigen

shmia

Registriert seit: 2. Mär 2004
5.508 Beiträge
 
Delphi 5 Professional
 
#10

AW: Windows-Taschenrechner-Problem

  Alt 18. Mai 2011, 18:58
Erklärung, weshalb das so ist:

Normale 0815-Taschenrechner und der Windows-Taschenrechner rechnen intern unterschiedlich.
Ein Taschenrechner rechnet im Dezimalsystem, während die Intel FPU im Binärsystem rechnet.
Taschenrechner mit 4-Bit-CPU nützen pro Nibble nur die Zustände 0 bis 9; die Zustände A bis F bleiben ungenutzt.
Man nennt dies Binary Code Decimal.
Dadurch wird zwar Genauigkeit (und Rechengeschwindigkeit) verschenkt aber es treten weniger Rundungsfehler auf, weil immer 4 Bit einer dezimalen Ziffer entsprechen.

Der dezimale Wert 0,1 lässt sich z.B. mit einer binären Fliesskommazahl nicht exakt darstellen (man bräuchte unendlich viele Bits).
Im BCD-Format lässt sich 0,1 aber exakt darstellen.
Andreas
  Mit Zitat antworten Zitat