Problème formatage de nombres flottants

fr-users
#1

Bonjour,

En testant des trucs pour répondre à un autre message de la liste, je me
suis rendu compte d'un phénomène inquiétant: l'affichage incorrect de
valeurs avec beaucoup de chiffres significatifs.

Pour reproduire ça:
- Ouvrir un nouveau classeur (Calc)
- Mettre 111111111111111 (15 un) dans une case
- Utiliser le bouton de la barre d'outil pour augmenter le nombre de
décimales visibles

Au début l'affichage est correct:
111111111111111,000000000
mais au bout d'un moment, c'est n'importe quoi:
1111111111,11111000000000000000
(oui, ce sont des 1 derrière la virgule).

La valeur reste correcte dans les calcul, mais l'affichage est clairement
faux.

Version: 5.3.1.2 64bit
OS: Linux

Quelqu'un peut confirmer (ou infirmer) ?

#2

Pareil

Version: 5.4.2.2
Build ID: 22b09f6418e8c2d508a9eaf86b2399209b0990f4
Threads CPU : 4; OS : Linux 4.9; UI Render : par défaut; VCL : kde4;
Locale : fr-FR (fr_FR.UTF-8); Calc: group

#3

​Merci pour le test.​

​Bon, je m'essaie au rapport de bug. Une brève recherche n'a rien donné​,
et c'est un cas assez particulier donc potentiellement non détecté.

​https://bugs.documentfoundation.org/show_bug.cgi?id=113260​

#4

Pareil
avec Windows 10 Pro - 1703 - 15063.674 - X64
et LibreOffice
Version: 5.2.7.2 (x64)
Build ID: 2b7f1e640c46ceb28adf43ee075a6e8b8439ed10
CPU Threads: 4; OS Version: Windows 6.19; UI Render: default;
Locale: en-US (en_US); Calc: group

Cordialement.
Hervé

#5

Bonjour,

je ne sais pas combien de temps il faut attendre, mais au bout de 1/2 heure je ne reproduis pas avec la 5.3.6.1 et Fedora 26

Build ID: 5.3.6.1-6.fc26

#6

Bonjour,

[...]
​https://bugs.documentfoundation.org/show_bug.cgi?id=113260​

Merci. J'ai confirmé le rapport de bug.

Bonne journée
JBF

#7

Bonjour,

je confirme, voir configuration ci-dessous.

Avec 15 chiffres 1, la première décimale en 1 apparaît à partir de 16 décimales.
Même comportement si on multiplie 111111111111111 par 1.
Par contre, en soustrayant la partie entière, soit
 1111111111,11111000000000000000-1111111111=0,00000000000000000000.

Autre test dans les mêmes conditions
- avec 222222222222222, on obtient 2222222222,22222000000000000000
- avec 333333333333333, on obtient 3333333333,33333000000000000000

Je suis bien en peine d'imaginer à quoi cela est dû.

LC