Vorheriges Thema anzeigen :: Nächstes Thema anzeigen |
Autor |
Nachricht |
KI JLI Master
Alter: 39 Anmeldedatum: 04.07.2003 Beiträge: 965 Wohnort: Aachen Medaillen: Keine
|
Verfasst am: 04.08.2004, 21:09 Titel: float Rundungsfehler mit Visual C++ .NET |
|
|
Ich habe ein seltsames Problem mit floats (und auch doubles) unter Visual C++ .NET (ver. 7)!
->
Code: |
float ScaleFactor;
// Seltsamerweise hat ScaleFactor direkt nach
// der Zuweisung den Wert 0.0099999998
ScaleFactor = 0.01f;
|
Ich habe die Vermutung, dass es am Compiler liegt, denn ein Freund benutzt Visual C++ 6 und bei ihm trit der Fehler im selben Projekt nicht auf.(sagt er )
Was kann ich tun? Ich bin so verzweifelt! |
|
Nach oben |
|
|
Christian Rousselle Site Admin
Alter: 48 Anmeldedatum: 19.07.2002 Beiträge: 1630
Medaillen: Keine
|
Verfasst am: 04.08.2004, 21:15 Titel: |
|
|
Ist kein Fehler -> Genauigkeitsprobleme. |
|
Nach oben |
|
|
KI JLI Master
Alter: 39 Anmeldedatum: 04.07.2003 Beiträge: 965 Wohnort: Aachen Medaillen: Keine
|
Verfasst am: 04.08.2004, 21:18 Titel: |
|
|
Christian Rousselle hat Folgendes geschrieben: | Ist kein Fehler -> Genauigkeitsprobleme. | schade |
|
Nach oben |
|
|
|