Tag Archives: Gleitkomma

Nicht ganz rund, die Sache

Ich weiß, ich weiß – Excel hat Rundungsprobleme. Die Sache mit der Gleitkommadarstellung und -berechnung ist schon hinlänglich beschrieben worden, beispielsweise bei:

http://www.cpearson.com/excel/rounding.htm

Aber ist jemandem schon Folgendes aufgefallen: Trägt man in Excel die Zahlen -0,3 und -0,2 untereinander in zwei Zellen ein, markiert diese und zieht sie nach unten, so klappt es. Ebenso bei -1,3 und -1,2. Jedoch bei -2,3 und -2,2 steht beim Herunterziehen in der entsprechenden Zelle nicht 0 sondern der Rundungsfehler -9,76996261670138E-15. Ebenso bei -3,3 und -3,2. Jedoch taucht dieser Fehler bei den Startwerten -2,4 und -2,3 nicht auf.

Ein seltsam Ding - ganz rund ist es ja nicht ...

Ein seltsam Ding – ganz rund ist es ja nicht …

Übrigens: einen anderen Rundungsfehler erhält man auch bei der Berechnung:

=5*(0,5-0,4-0,1)