AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Zurück Delphi-PRAXiS Sprachen und Entwicklungsumgebungen Object-Pascal / Delphi-Language Delphi Vergleich von Real-Werten ---> klappt nicht
Thema durchsuchen
Ansicht
Themen-Optionen

Vergleich von Real-Werten ---> klappt nicht

Ein Thema von markus5766h · begonnen am 27. Jan 2010 · letzter Beitrag vom 27. Jan 2010
Antwort Antwort
Seite 1 von 2  1 2      
Benutzerbild von markus5766h
markus5766h

Registriert seit: 5. Mär 2009
Ort: Hamburg
569 Beiträge
 
Delphi XE8 Professional
 
#1

Vergleich von Real-Werten ---> klappt nicht

  Alt 27. Jan 2010, 13:00
Hallo,

nachfolgend der problematische Code:
Delphi-Quellcode:
Const
 E96 : array[1..98] of Real =
  (0, 1.0, 1.02, 1.05, 1.07, 1.1, 1.13, 1.15, 1.18, 1.21, 1.24, 1.27, 1.30, 1.33,
   1.37, 1.40, 1.43, 1.47, 1.50, 1.54, 1.58, 1.62, 1.65, 1.69, 1.74, 1.78, 1.82,
   1.87, 1.91, 1.96, 2.0, 2.05, 2.1, 2.15, 2.21, 2.26, 2.32, 2.37, 2.43, 2.49, 2.55,
   2.61, 2.67, 2.74, 2.80, 2.87, 2.94, 3.01, 3.09, 3.16, 3.24, 3.32, 3.40, 3.48,
   3.57, 3.65, 3.74, 3.83, 3.92, 4.02, 4.12, 4.22, 4.32, 4.42, 4.53, 4.64, 4.75,
   4.87, 4.99, 5.11, 5.23, 5.36, 5.49, 5.62, 5.76, 5.90, 6.04, 6.19, 6.34, 6.49,
   6.65, 6.81, 6.98, 7.15, 7.32, 7.50, 7.68, 7.87, 8.06, 8.25, 8.45, 8.66, 8.87, 9.09,
   9.31, 9.53, 9.76, 10);

......

implementation

 var
 Rv : Real;


// Rv ist 634


  for i := 2 to 98 do
    if Rv = (E96[i-1] * multi) then // <<<<< wird nicht erkannt !!!!!!!!!!
     begin
      lb96Min.Caption := FloatToStr(E96[i-1] * multi) + ' Ohm';
      lb96Max.Caption := '';
      break;
     end;

   // <<<<< hier bekomme ich 634 und 649 zurück
   for i := 1 to 98 do
    if (Rv > E96[i-1] * multi) and (Rv < E96[i] * multi) then
     begin
      lb96Min.Caption := FloatToStr(E96[i-1] * multi) + ' Ohm';
      lb96Max.Caption := FloatToStr(E96[i] * multi) + ' Ohm';
      break;
     end;
mehrmals nachgerechnet : Rv ist genau 634
multi ist ein Multiplikator, Typ Integer, hier 100

warum wird der direkte Vergleich nicht erkannt ?
Markus H.
  Mit Zitat antworten Zitat
Benutzerbild von himitsu
himitsu

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
44.184 Beiträge
 
Delphi 12 Athens
 
#2

Re: Vergleich von Real-Werten ---> klappt nicht

  Alt 27. Jan 2010, 13:04
Das nennt man Rundungsfehler, welchen diese Fließkommatypen unterliegen.
Diese Typen können keine beliebigen Zahlen darstellen, sondern nur einen "kleinen" Teil der reellen Zahlen.

Darum darf/kann man auch nicht genau auf = prüfen.
$2B or not $2B
  Mit Zitat antworten Zitat
Benutzerbild von guinnes
guinnes

Registriert seit: 28. Feb 2007
Ort: Bottrop
265 Beiträge
 
Delphi 5 Enterprise
 
#3

Re: Vergleich von Real-Werten ---> klappt nicht

  Alt 27. Jan 2010, 13:05
Dann wird sich 6.34 nicht 100%ig als Real darstellen lassen. Du solltest beim vergleich eine Bandbreite zulassen
Glückauf
  Mit Zitat antworten Zitat
Benutzerbild von Mithrandir
Mithrandir
(CodeLib-Manager)

Registriert seit: 27. Nov 2008
Ort: Delmenhorst
2.379 Beiträge
 
#4

Re: Vergleich von Real-Werten ---> klappt nicht

  Alt 27. Jan 2010, 13:08
Int(Rv) = (E96[i-1] * multi) Kann nicht funktionieren, da beide intern nicht gleich aussehen, auch wenn du den Real nach Int castest. Als Workaround spontan das hier:
If Abs(RV - (E96[i-1] * multi)) < eps then wobei eps in diesem Falle eine Konstante ist, die die Genauigkeit angiebt, bspw.

Delphi-Quellcode:
const
eps = 0.001; //<> 1E-3
Wobei es vermutlich auch noch andere Ansätze gibt...
米斯蘭迪爾
"In einer Zeit universellen Betruges wird das Aussprechen der Wahrheit zu einem revolutionären Akt." -- 1984, George Orwell
  Mit Zitat antworten Zitat
Benutzerbild von markus5766h
markus5766h

Registriert seit: 5. Mär 2009
Ort: Hamburg
569 Beiträge
 
Delphi XE8 Professional
 
#5

Re: Vergleich von Real-Werten ---> klappt nicht

  Alt 27. Jan 2010, 13:13
Zitat von guinnes:
Dann wird sich 6.34 nicht 100%ig als Real darstellen lassen. Du solltest beim vergleich eine Bandbreite zulassen
... das kann's eigentlich nicht sein : hab's auch mit
 if Trunc(Rv) = Trunc(E96[i-1] * multi) then ... versucht; hier müsste es dann eigentlich funktionieren !?
Markus H.
  Mit Zitat antworten Zitat
Benutzerbild von markus5766h
markus5766h

Registriert seit: 5. Mär 2009
Ort: Hamburg
569 Beiträge
 
Delphi XE8 Professional
 
#6

Re: Vergleich von Real-Werten ---> klappt nicht

  Alt 27. Jan 2010, 13:17
Zitat von Daniel G:
Int(Rv) = (E96[i-1] * multi) Kann nicht funktionieren, da beide intern nicht gleich aussehen, auch wenn du den Real nach Int castest. Als Workaround spontan das hier:
If Abs(RV - (E96[i-1] * multi)) < eps then wobei eps in diesem Falle eine Konstante ist, die die Genauigkeit angiebt, bspw.

Delphi-Quellcode:
const
eps = 0.001; //<> 1E-3
Wobei es vermutlich auch noch andere Ansätze gibt...
das Int(Rv) ist schon wieder raus ... war nur ein Versuch.
mit
 If Abs(RV - (E96[i-1] * multi)) < eps then ... funktionierts. Danke
Markus H.
  Mit Zitat antworten Zitat
Benutzerbild von Luckie
Luckie

Registriert seit: 29. Mai 2002
37.621 Beiträge
 
Delphi 2006 Professional
 
#7

Re: Vergleich von Real-Werten ---> klappt nicht

  Alt 27. Jan 2010, 13:18
Eventuell trägt das: http://www.michael-puff.de/Artikel/Fliesskomma.shtml zum Verständnis bei.
Michael
Ein Teil meines Codes würde euch verunsichern.
  Mit Zitat antworten Zitat
Benutzerbild von markus5766h
markus5766h

Registriert seit: 5. Mär 2009
Ort: Hamburg
569 Beiträge
 
Delphi XE8 Professional
 
#8

Re: Vergleich von Real-Werten ---> klappt nicht

  Alt 27. Jan 2010, 13:23
Zitat von Luckie:
Eventuell trägt das: http://www.michael-puff.de/Artikel/Fliesskomma.shtml zum Verständnis bei.
o.k. aufgefrischt ....
Markus H.
  Mit Zitat antworten Zitat
Dezipaitor

Registriert seit: 14. Apr 2003
Ort: Stuttgart
1.701 Beiträge
 
Delphi 7 Professional
 
#9

Re: Vergleich von Real-Werten ---> klappt nicht

  Alt 27. Jan 2010, 14:36
Zitat von Daniel G:
Int(Rv) = (E96[i-1] * multi) Kann nicht funktionieren, da beide intern nicht gleich aussehen, auch wenn du den Real nach Int castest. Als Workaround spontan das hier:
If Abs(RV - (E96[i-1] * multi)) < eps then wobei eps in diesem Falle eine Konstante ist, die die Genauigkeit angiebt, bspw.

Delphi-Quellcode:
const
eps = 0.001; //<> 1E-3
Wobei es vermutlich auch noch andere Ansätze gibt...
Huch, das ist kein Workaround, das ist DER Lösungsweg, wie man Werte vergleicht, die vom Computer nicht exakt dargestellt werden können: Epsilonumgebung.
Sei nicht so bescheiden
Christian
Windows, Tokens, Access Control List, Dateisicherheit, Desktop, Vista Elevation?
Goto: JEDI API LIB & Windows Security Code Library (JWSCL)
  Mit Zitat antworten Zitat
Benutzerbild von Mithrandir
Mithrandir
(CodeLib-Manager)

Registriert seit: 27. Nov 2008
Ort: Delmenhorst
2.379 Beiträge
 
#10

Re: Vergleich von Real-Werten ---> klappt nicht

  Alt 27. Jan 2010, 14:53
Zitat von Dezipaitor:
nicht so bescheiden
*hust* Ok...
米斯蘭迪爾
"In einer Zeit universellen Betruges wird das Aussprechen der Wahrheit zu einem revolutionären Akt." -- 1984, George Orwell
  Mit Zitat antworten Zitat
Antwort Antwort
Seite 1 von 2  1 2      


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 20:26 Uhr.
Powered by vBulletin® Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz