Obersumme wird falsch berechnet

Dr. Wolfgang Voit shared this question 4 years ago
Answered

Comments (2)

photo
1

Lt. Handbuch obersumme(x^2,-2,4,6)=35

Lt. GeoGebra jedoch UpperSum[x^(2), -2, 4, 6]=34.99999796375

photo
1

Das betrifft fast alle Berechnungen in GGB und ist (in der Algebra-Ansicht) "normal".

Es hat etwas mit der binären Floating-Point-Logik zu tun. http://de.wikipedia.org/wik...

Die Beispiele im Manual gehen in der Regel von einer Rechengenauigkeit von 2 Dezimalstellen aus. (Einstellung in Menü/Optionen)

In der CAS-Ansicht wird mit erheblich mehr Nachkommastellen gerechnet. Allerdings nicht für Obersumme. Das könnte man allenfalls als Einschränkung/Fehler bezeichnen.

Wenn mit dem Wert weiter gerechnet werden soll, so kann man ihn wie folgt runden:

round(UpSum 10^5)/10^5

© 2023 International GeoGebra Institute