Thema
:
Konvertierungsfehler bei Funktion
Einzelnen Beitrag anzeigen
Mikkey
Registriert seit: 5. Aug 2013
265 Beiträge
#
12
AW: Konvertierungsfehler bei Funktion
9. Jun 2015, 09:45
Zitat von
khh
:
Da bekomme ich mit meinen 9 Nachkommastellen wohl Rundungsfehler rein
Ein Punkt der 9. Stelle nach dem Komma entspricht 86 Nanosekunden. Wenn Du größere Genauigkeit brauchst...
Zitat
Mikkey
Öffentliches Profil ansehen
Mehr Beiträge von Mikkey finden