Einzelnen Beitrag anzeigen

Benutzerbild von stoxx
stoxx

Registriert seit: 13. Aug 2003
1.111 Beiträge
 
#10

Re: brauche kleine Hilfe in ASM, Flaschenhals

  Alt 22. Jun 2006, 15:03
Zitat:
Alternativ hätte man auch einfach unsigned 32-bit fixed point mit festen 4 Decimals nehmen können: Damit hätte man immerhin Kurse bis 429496,7296 Darstellen können.
ja, das sind so die ersten Gedanken, die man hat, wenn man auf das Problem stößt.
Dummerweise haben einige Futures und Forex Kurse 6 Nachkommastellen.
(z.B. USD/JPY Future hat 6 Nachkommastellen)

Mit 4294,967296 bei einem Festkomma von 6 wird es arg knapp

ich kann jetzt:

FMinValue2 = -5368709.12;
FMaxValue2 = 5368709.11;

FMinValue4 = -53687.0912;
FMaxValue4 = 53687.0911;

FMinValue6 = -536.870912;
FMaxValue6 = 536.870911;

// FMinValue8 = -5.36870912; //frei
// FMaxValue8 = 5.36870911;


@Hagen .. 3 shl 29 ist eine super Idee ! Das war das, wo ich im Gefühl hatte, man kann noch etwas ändern
ich glaube ich bin zufrieden, werde es jetzt mal ausgiebig testen.

Vielen Dank !!
Gruß stoxx
Phantasie ist etwas, was sich manche Leute gar nicht vorstellen können.
  Mit Zitat antworten Zitat