Mir ist zwar bekannt, dass Single nur 4 Byte hat und man daher von einer "geringen Rechengenauigkeit" spricht (double hat 8 Byte), aber ich habe das immer auf Berechnungsergebnisse bezogen (also multiplizieren, dividieren, etc.), wieso gibt es hier bei so einer einfachen Konvertierung eine Ungenauigkeit?
Auch diese "einfachen Konvertierungen" sind Berechnungen. Und so simpel sind die nun mal nicht, da von der Dezimal- in die Binärdarstellung und zurück konvertiert werden muss (du hast also in Deinem Beispiel schon zwei Konvertierungen). Das geht für manche Zahlen einfach und ohne Rundungs-Fehler, für andere sind die Fehler relativ groß.