Einzelnen Beitrag anzeigen

Benutzerbild von himitsu
himitsu

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
44.062 Beiträge
 
Delphi 12 Athens
 
#5

Re: Überlauf bei Berechnung erkennen

  Alt 22. Mai 2008, 22:53
Zitat:
Was ist eigentlich mit {$Q+}, Du hast nur {$R+}.
$Q = FloatOverflow
$R = RageCheck + IntegerOverflow

ich hatte zwar auch ers $Q, aber Delphi verwendet $R bei inem Integeroverflowcheck ... ist auch etwas verständlich, da es sich um einen festen Range (MinInt..MaxInt) handelt.


Code:
-10000 +   -100 = -10100 # $00000001
T.Hi = 1 ... also zwar <> 0, aber dennoch kein wirklicher Überlauf

der vermeintliche Überlauf entsteht, da im HiWord des der werte $ffffffff + $ffffffff + T.Hi (T.Hi ist in diesem Fall auch $ffffffff) gerechnet wird, was ja für die negativen Werte korrekt ist.

Hier ein Stück Code, das Overflow detektiert für longints ein Problem hierbei ist, daß, wenn ich diese Formel so überehmen, wieder einigee "große/aufwendige" Berechnugen gemacht werden müßten (not, and, xor, add und "<>") was wiederrum viel Zeit in Anspruch nimmt.


PS: klar wäre z.B. bei Signed-Magnitude einiges Einfacher, aber vorallem die doppelten Werte wie 0 und -0 sind für mich mehr abschreckend
und dazu ist sowas auch nicht binär kompatibel zu Integer und Co.
Neuste Erkenntnis:
Seit Pos einen dritten Parameter hat,
wird PoSex im Delphi viel seltener praktiziert.
  Mit Zitat antworten Zitat