Genauigkeit von String to Single Konvertierung - Delphi-PRAXiS

AGB · Datenschutz · Impressum

Nützliche Links

• Registrieren

Thema durchsuchen

Themen-Optionen

Genauigkeit von String to Single Konvertierung

Ein Thema von Harry Stahl · begonnen am 31. Mär 2020 · letzter Beitrag vom 19. Apr 2020

Vorheriger Beitrag

Vorheriger Beitrag

Nächster Beitrag

Nächster Beitrag

Benutzerbild von jaenicke

jaenicke

Registriert seit: 10. Jun 2003
Ort: Berlin
9.960 Beiträge

Delphi 12 Athens

#3

AW: Genauigkeit von String to Single Konvertierung

Alt

1. Apr 2020, 06:00

Zitat von Harry Stahl:

wieso gibt es hier bei so einer einfachen Konvertierung eine Ungenauigkeit?

Weil die Zahlen im PC im Binärsystem dargestellt werden, Stichwort Zweierkomplement (übrigens im Studium ein Lieblingsthema bei einigen

). Hier im Video ist das auf den ersten Blick gut zu sehen (hab nur kurz auf die Tafel geschaut, nicht zugehört):

https://www.youtube.com/watch?v=hHpSwBf0DCA

Sebastian Jänicke

« Vorheriges Thema | Nächstes Thema »

Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.

Es ist dir nicht erlaubt, auf Beiträge zu antworten.

Es ist dir nicht erlaubt, Anhänge hochzuladen.

Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.

Smileys sind an.

[IMG] Code ist an.

HTML-Code ist aus.

Trackbacks are an

Pingbacks are an

Refbacks are aus

Gehe zu: