Einzelnen Beitrag anzeigen

Benutzerbild von Daimonion
Daimonion

Registriert seit: 4. Dez 2006
Ort: Vöhrenbach
15 Beiträge
 
#5

Re: trunc liefert nicht das erwartete Ergebnis

  Alt 18. Mär 2010, 16:54
@DeddyH

Nein, denn beim Debuggen zeigt er mir auch wirklich die 0.61 an (self.dp war nämlich 0.005 und wurde richtig verarbeitet). Deine Funktion SimpleRoundTo oder ähnliches hab ich in Math bis jetzt leider nicht gefunden.

Edit:So MAth.simpleroundto gefunden aber nicht in meinem D5, sondern bei Embarcardero.

An sich will ich ja auch nicht runden , sondern nach der 2. Kommastelle abschneiden.

@ blink182

Danke für den schnellen Test. Jetzt gilt es vielleicht nur noch festzustellen, warum trunc mit Double und Real nicht korrekt arbeitet.

@all

Kann denn jemand dieses Verhalten erklären?

Danke und Grüße
Daimonion

Edit:

Ich habe gerade nochmal einen Screenshot angehangen, wo auch die Werte vom Debugger drin stehen und ich mal eine temporäre Variable genutzt hab. temp_offset ist vom Typ Double. Offset und die anderen Variablen sind nun Extended. Leider wird immer noch falsch "abgeschnitten"
Miniaturansicht angehängter Grafiken
trunc_182.png  
Thomas
Zitat Stromberg S03E08 - Erika:
"So...selbst die Capitolmatratze, die hier auf jedem Karosseplan umgerutscht ist, was will sie von mir? Zahlen. Aber so ist das. Als Chef in meiner Position, da bist du so einsam wie...Gott."
  Mit Zitat antworten Zitat