div und seine Rundung

[mkinzler]

Zitat von haentschman:

...nun ja.

dann sollte eigentlich nach Adam Riese die 7,0 auch auf 8 gerundet werden oder ?

Nein, weil 7 < 7.5 ist

[bernau]

Zitat von haentschman:

...nun ja.

dann sollte eigentlich nach Adam Riese die 7,0 auch auf 8 gerundet werden oder ?

Nö.

7.0 = 7
7.3 = 7
7.4 = 7
7.5 = 8
7.8 = 8
7.9 = 8


So funktioniert Rundung.

[haentschman]

ist ja schon etwas länger her...

Danke an alle...

[haentschman]

so....

Trunc war die einfachste Lösung für meine "Sorgen"

Danke nochmal für die Mathematikstunde 8)

[sirius]

Fieldvalues ist ein Variant.
Und wenn du mit einem Variant ein div machst, werden Fließkommazahlen vorher gerundet (round).

Edit: Wow, das war ja mehr als bloß ein roter Kasten. Auf jeden Fall habe ich es grad im Code überprüft. Und die Vermutungen, die oben genannt wurden stimmen.

[haentschman]

Zitat:

Und wenn du mit einem Variant ein div machst, werden Fließkommazahlen vorher gerundet (round).

...soweit war das klar, nur wenn man nicht mehr weis wie richtig gerundet wird sollte man eine Pause machen oder Nachhilfe beantragen

...ich entscheide mich für Pause und Kaffee

[jaenicke]

Es gibt übrigens auch noch Floor und Ceil, damit wird egal mit welchem Nachkommawert ab- bzw. aufgerundet .

[DeddyH]

Naja, unsere Schulzeit ist ja auch schon ein paar Sonntage her, gell?

[edit] IMHO wären Floor() oder Ceil() hier weniger geeignet. [/edit]

[haentschman]

[OT]

Zitat:

Naja, unsere Schulzeit ist ja auch schon ein paar Sonntage her, gell?

...das war noch zu Friedenszeiten in der DDR
...habe ich mich jetzt geoutet und das ist gut so...

PS: für die Jüngeren... DDR ist kein Speichermodul
[/OT]

[jaenicke]

Floor macht praktisch das selbe wie Trunc wenn es sich um positive Zahlen handelt, der Unterschied liegt ja nur bei negativen Zahlen und da stimme ich zu, dass Trunc hier besser passt, denn Trunc bei -7,9 ergibt -7, Floor aber -8.

// EDIT:

Zitat von haentschman:

[OT]PS: für die Jüngeren... DDR ist kein Speichermodul
[/OT]

Die Abkürzung kenne ich: Danke Das Reicht