Registriert seit: 30. Jan 2004
823 Beiträge
|
AW: FLOAT_INVALID_OPERATION und FLOAT_OVERFLOW nur 64Bit
16. Jul 2021, 21:42
Die Frage ist, ob die die Range-Prüfung ausgelöst wird. Wenn FLOAT_INV.. vorher kommt, liegt es zumindest nicht daran, dass du auf einen ungültigen Speicherbereich zugreift.
Wenn du auf Speicherbereich nach dem Array zugreift würdest, dann kann dadurch schon der Fehler FLOAT_INV ausgelöst werden, je nachdem was dort steht.
Da wie bereits erwähnt ein array of single bei 0 startet müsste auch sample bei 0 beginnen und auch in die anderen beiden schleifen dürften immer nur bis samplecount-1 laufen.
Geändert von brechi (16. Jul 2021 um 21:50 Uhr)
|