AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Zurück Delphi-PRAXiS Programmierung allgemein Datenbanken Int64 spinnt oder ich. HILFE!!!!
Thema durchsuchen
Ansicht
Themen-Optionen

Int64 spinnt oder ich. HILFE!!!!

Ein Thema von Papaschlumpf73 · begonnen am 5. Nov 2024 · letzter Beitrag vom 8. Nov 2024
Antwort Antwort
Seite 4 von 4   « Erste     234   
Benutzerbild von jaenicke
jaenicke

Registriert seit: 10. Jun 2003
Ort: Berlin
9.649 Beiträge
 
Delphi 11 Alexandria
 
#31

AW: Int64 spinnt oder ich. HILFE!!!!

  Alt 8. Nov 2024, 11:23
Der Fehler hingegen passiert bei Microsoft in der Funktion VariantChangeTypeEx,
Ist der Fehler irgendwie mathematisch erklärbar?
Ich habe mal nachgeschaut. Es wird in varDouble umgewandelt und dann gerundet, wodurch die Genauigkeit flöten geht.
Wenn man als Zieltyp wie ja auch gewünscht varInt64 angibt, funktioniert es korrekt.

Warum das so gemacht wird, kann ich nicht nachvollziehen. Das halte ich dann doch für einen Bug in Delphi.
Sebastian Jänicke
AppCentral
  Mit Zitat antworten Zitat
Benutzerbild von himitsu
himitsu

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
44.184 Beiträge
 
Delphi 12 Athens
 
#32

AW: Int64 spinnt oder ich. HILFE!!!!

  Alt 8. Nov 2024, 11:33
Zitat:
VT_DECIMAL
Value: 14
A 16-byte fixed-pointer value.

VT_I8
Value: 20
A 64-bit integer.
Vielleicht, weil es passieren kann, dass die 16 Byte nicht in 8 Byte rein passen?
Und außerdem ist Decimal ja sowas wie ein Float, bzw. mehr wie Currency.
(intelligent wäre es aber schon gewesen, wenn bei ganzzahl mit maximal 8 Byte (abzüglich 1 Bit) das vt_i8 anstatt vt_r8 genommen würde)
$2B or not $2B
  Mit Zitat antworten Zitat
Benutzerbild von jaenicke
jaenicke

Registriert seit: 10. Jun 2003
Ort: Berlin
9.649 Beiträge
 
Delphi 11 Alexandria
 
#33

AW: Int64 spinnt oder ich. HILFE!!!!

  Alt 8. Nov 2024, 12:15
Vielleicht, weil es passieren kann, dass die 16 Byte nicht in 8 Byte rein passen?
Das wäre ja auch in Ordnung, aber warum versucht man es mit Integer statt Int64? Ich sehe keinen Fall, in dem Integer geht, Int64 aber nicht. Ich habe das mal mit fertigem Beispiel eingetragen und in obigem Bugeintrag darauf verwiesen:
https://embt.atlassian.net/servicede...tal/1/RSS-2300
Sebastian Jänicke
AppCentral
  Mit Zitat antworten Zitat
Antwort Antwort
Seite 4 von 4   « Erste     234   


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 12:29 Uhr.
Powered by vBulletin® Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz