Einzelnen Beitrag anzeigen

n1d3c

Registriert seit: 26. Jun 2004
4 Beiträge
 
#11

Re: Bestimmung der Dauer einer Function/Prozedur

  Alt 27. Jun 2004, 17:25
Danke für die schnelle Antwort =)
Wobei ich mich jetzt frage wieso bei mir einige male 1,22...E23 rauskam... das würde ja heissen 10^23...dabei kann die wahrscheinlichkeit aber nie grösser als 1 werden
hmpf evt. weil die zwischenerg. ungenau waren... ich werde mich dann mal auf die suche nach diesen units begeben

--- edit ----
Oke. Mein Programm funktioniert soweit... das Problem ist anscheinend, dass wenn die Zahl zu hoch wird ( ich benutze nicht int64 an dieser stelle sondern Real ),dass der Wert dann falsch errechnet wird und dadurch bei weitem grösser wird als 1 ( oder eher als paar millionen ^^ ), hängt das evt. damit zusammen das die zahlen intern mit 001101 dargestellt werden und die positiven Zahlen und negativen Zahlen in einem "Kreis" zusammenhängen?...ist an sich unwichtig...würde mich nur interessieren].
Falls ich mit dieser Annahme richtig liege, gibt es eine Möglichkeit den Wert den Real annehmen kann zu erhöhen oder im Falle einer Überschreitung das Ergebniss gleich null zu setzen? Wobei das Programm doch eigentlich bei einer Überschreitung mit der Fehlermeldung "FlaotingPointOverflow" oder der gleichen aussteigen müsste?!

Eine weitere Frage: Was bewirkt der Typ extended?
  Mit Zitat antworten Zitat