Somme avec 16ème décimale incorrecte

fr-users
#1

Bonsoir,

J'ai fait un simple calcul qui s'appuie sur une pyramide de sommes
(ci-joint) avec
LibreOffice 4.2.8.2.
La 16ème décimale de la cellule J4 est incorrecte : elle devrait valoir 1.

Le problème semble venir de la cellule A1. Par exemple, lorsque A1 vaut
0,01, le résultat de J4 semble correct.

Est-ce une limite connue, un problème déjà rencontré, ou dois-je signaler
l'anomalie correspondante ?

Bonne soirée,
Julien.

#2

Bonsoir,
les pièces jointes doivent être envoyées via un site tel que cjoint.com car
elles ne passent pas sur le forum :-/

Yves

:

#3

Bonjour,

Il s'agit probablement d'un vieux problème, corrigé depuis:
https://bugs.documentfoundation.org/show_bug.cgi?id=96918
Correctif disponible au moins depuis la version 5.1. Pour info (puisque le
sujet est passé récemment) sur un XP on peut installer LO 5.3. Sinon,
autant passer sur la dernière version directement (actuellement 5.4).

#4

Bonjour,

Bonjour,

Il s'agit probablement d'un vieux problème, corrigé depuis:
https://bugs.documentfoundation.org/show_bug.cgi?id=96918
Correctif disponible au moins depuis la version 5.1.

Ce bug concerne les nombres entiers alors que le message d'origine parle de décimales, donc a priori de nombres en virgule flottante.

Il faudrait avoir le fichier de test pour aller plus loin.

Bonne journée
JBF

#5

​ah, au temps pour moi, je n'avais pas vu que c'était des flottants.
Peut-être est-ce simplement la limite de représentation des nombres
flottants double précision qui supportent à peu près 15 chiffres
significatifs ? Il faudrait effectivement voir un cas de test pour être sûr.
Cela dit, tester sur la dernière version disponible est aussi un moyen de
savoir si c'est un problème corrigé​ (la branche 4 est maintenant assez
ancienne).

#6

Bonjour,

Merci pour ce début de réponse !

Le fichier est ici : http://www.cjoint.com/c/GJvqi7QSVW4.

Je suis actuellement sous Ubuntu 14.
Je vais voir ce que je peux faire concernant la version de libreoffice.

Bon après-midi,
Julien.

#7

Bonjour,

Même erreur avec LibreOffice Calc Version: 5.3.6.1.

Bon après-midi,
Julien.

:

#8

Bonjour,

Bonjour,

Même erreur avec LibreOffice Calc Version: 5.3.6.1.

Avec des nombres en virgule flottante sur 8 octets (double précision), tu ne peux pas espérer avoir plus de 15 chiffres significatifs corrects.
N'oublie pas que tes calculs ne tombent pas juste pour le processeur car il les fait en base 2 et non en base 10. Ainsi 10 x (1 / 10) peut ne pas faire 1.

Bonne journée
JBF

#9

Avec des nombres en virgule flottante sur 8 octets (double précision), tu

ne peux pas espérer avoir plus de 15 chiffres significatifs corrects.

N'oublie pas que tes calculs ne tombent pas juste pour le processeur car

il les fait en base 2 et non en base 10. Ainsi 10 x (1 / 10) peut ne pas
faire 1.

Oui, je m'attendais à cette réponse !

Problème clos donc.

Merci.
Bonne soirée,
Julien.

#10

Le tableur n'est pas un outil adapté pour ça mais il y a des logiciels qui font des calculs en précision infinie. Tu peux essayer GNU Octave par exemple, il me semble bien qu'il est capable de faire ça.

Bonne soirée
JBF