LibreOffice Calc rechnet falsch

de-users
#1

Betriebssystem: LinuxMint 20 64Bit Cinnamon

LibreOffice: 7.0.4.2

Lang: en

CPU: Intel© Core™ i5-4690 CPU @ 3.50GHz × 4

Linux Kernel: 5.4.0-72-generic

Beispiel:

0,864838970000000000 – 0,864800740000000000 = 0,000038230000000028 (inkorrekt)

Der Fehler ist reproduzierbar mit allen Zahlen.

Mit freundlichen Grüßen

User

#2

Hallo namenloser user,

Die Aussage ist viel zu ungenau beschrieben. Wenn ich die Differenz berechnen lasse, erhalte ich das Ergebnis in Exponentialdarstellung mit den entsprechenden Ziffern wie angegeben, wenn ich aber die Dezimaldarstellung wähle (ggf. ANzahl der gezeigten nachkommastellen erhöhen), ist das Ergebnis exakt. Das liegt an der Berechnung mit Zahlen in der Exponentialdarstellung. Die beiden Stellen "28" am Ende des Ergebnisses liegen jenseits der Genauigkeit, sie sind nur deshalb sichtbar, weil durch E-05 das Komma um 5 Stellen verschoben ist.
Übrigens zeigt Excel genau die gleichen Zahlen.

Gruß
Gerhard

#3

Am 26.04.2021 um 20:17:12 schrieb Norbert Scheibner:

Glück Auf!
Das liegt an der begrenzten Genauigkeit. Siehe auch:
https://de.wikipedia.org/wiki/Gleitkommazahl

und:
https://de.wikipedia.org/wiki/IEEE_754

In Libreoffice wird wohl "IEEE 754 double" verwendet.

Deswegen immer möglichst die Rundungsentscheidungen treffen an taktisch
klugen Stellen in der Berechnung. Reicht das nicht, dann muss man sogar
die Formeln dementsprechend anpassen, um die Zahlen nicht ausufern zu
lassen.

MfG
   Norbert