AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Thema durchsuchen
Ansicht
Themen-Optionen

Unbegrenzt viele Nachkommastellen

Ein Thema von c113plpbr · begonnen am 8. Dez 2003 · letzter Beitrag vom 9. Aug 2011
Antwort Antwort
Unwissender

Registriert seit: 11. Dez 2003
16 Beiträge
 
#1

Re: Unbegrenzt viele Nachkommastellen

  Alt 11. Dez 2003, 14:48
Also, dass eine Million stellen mit einem Programm in 2,5 sek. berechnet werden ist lustig. Leider ist das Ergebnis dann aber falsch. Liegt allerdings an der Hardware. Ich gehe zumindest mal davon aus, dass du eine normale CPU (x86 oder irgendein Motorola oder Alpha) benutzt hast.
Und da diese CPU's mit Mantissen rechnen, entsteht der so beliebte Rundungsfehler der bei 1 mio. Stellen schon relevant ist. Um ein wirklich mathematisch korrektes Ergebnis zu bekommen, musst du diesen Fehler berücksichtigen und kannst einfach nicht mit der GPU deiner CPU arbeiten. Und alles andere schafft es nicht, in 2,5 sek. eine Gleitkommazahl zu berechnen, die > 1 mio signifikante Stellen hat.
  Mit Zitat antworten Zitat
Antwort Antwort


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 21:36 Uhr.
Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024-2025 by Thomas Breitkreuz