Thema: Delphi Delphi rechnet falsch

Einzelnen Beitrag anzeigen

supermuckl

Registriert seit: 1. Feb 2003
1.340 Beiträge
 
FreePascal / Lazarus
 
#12

Re: Delphi rechnet falsch

  Alt 5. Jan 2005, 12:34
ich denk mal das ist so zu erklären:
der realwert wird ja in binärer form irgendwo gespeichert.
und zwar nur eine zahl (7 ziffern) und - vorzeichen oder noch eine ziffer
und das halt binär.

nun rechnet der prozessor das aus und tut dir richtiger weise diese ungenaue zahl raushauen, da nirgends gespeichert war, das es eine periode war oder nicht.

also irgenwo muss es sowas sein

hoffentlich kanns jemand beschreiben, der ahnung hat.

//edit
http://www.ica1.uni-stuttgart.de/Cou...ml/node39.html
Das echte Leben ist was für Leute...
... die im Internet keine Freunde finden!
  Mit Zitat antworten Zitat