Les tableurs ne savent pas compter

fr-users
#1

Bonsoir,

Tout est dans le titre
essayez 111 111 111 111 au carré
Le bon résultat est 12345678987654321

Calc comme tous les autres nous dit 1,23E+016
Transformez le résultat avec le format de cellule en mettant 2 ou 3 zéros non significatifs vous obtenez 12345678987654300

J'ai testé aussi avec la cellule formatée avec 2-3 zéros significatifs l'erreur est toujours la même

Il serait sympa que LibreOffice corrige cette anomalie et le pion serait damé à TOUS les tableurs actuellement en circulation

Amitiés

#2

Bonsoir,

Tout est dans le titre
essayez 111 111 111 111 au carré

111 111 111 111>10^11 => (111 111 111 111)²>(10^11)²=10^22

Le bon résultat est 12345678987654321

Je dirais plutôt 111 111 111 au carré :wink:

Calc comme tous les autres nous dit 1,23E+016
Transformez le résultat avec le format de cellule en mettant 2 ou 3 zéros non significatifs vous obtenez 12345678987654300

J'ai testé aussi avec la cellule formatée avec 2-3 zéros significatifs l'erreur est toujours la même

Il serait sympa que LibreOffice corrige cette anomalie et le pion serait damé à TOUS les tableurs actuellement en circulation

Le tout est de savoir sur quelle sorte de nombre on travaille ! Et là, je pense que modifier tout le code c'est dur !

Un entier en long (sur 32 bits) : 2^32=(10^10)^3x2²=4*1024^3 presque 4 000 000 000=4x10^9 n'est même pas suffisant pour ton calcul !
On peut tester ce que ça donne avec des double (plus grande précision en virgule flottante) en C : 12345678987654320,000000l

#3

Mea culpa tu as raison c'est bien 3 fois 111 qu'il faut lire

Amitiés

#4

Bonsoir Yannick

Bonsoir,

Tout est dans le titre
essayez 111 111 111 111 au carré
Le bon résultat est 12345678987654321

Calc comme tous les autres nous dit 1,23E+016
Transformez le résultat avec le format de cellule en mettant 2 ou 3 zéros non significatifs vous obtenez 12345678987654300

J'ai testé aussi avec la cellule formatée avec 2-3 zéros significatifs l'erreur est toujours la même

Il serait sympa que LibreOffice corrige cette anomalie et le pion serait damé à TOUS les tableurs actuellement en circulation

Les tableurs sont des outils bureautiques. Ils ont été créés pour faire de la gestion, pas du calcul scientifique. (Même si les scientifiques s'en servent)
Hors, en gestion, nous utilisons 2 ou 3 décimales et nous contentons de calculs très simples mais pratiques.
Pour avoir la finesse de calcul dont tu parles, il existe des logiciels et des calculateurs scientifiques.
Il ne s'agit donc pas d'une anomalie mais de vouloir transformer la fonction même du logiciel.
Je crois qu'il a beaucoup d'autres choses à faire avant :wink:

Marie jo