Re: Y a comme un défaut

Le 4 décembre 2021 à 00:54, Joseph-B a écrit ceci :

pour info, avec 2,54  j'obtiens
0,254 - 0,0 - 2,54 - 2,54 - 2,54
>
et avec 25,4
0,254 - 2,54 - 0,0 - 1,42108547152E-14 - 1,42108547152E-13

Bonjour Joseph,

Mojave,

Restes de la division par 2,54
0,254 - 0,0 - 2,54 - 2,54 - 2,54

Restes de la division par 25,4
0,254 - 2,54 - 0,0 - 1,42108547152E-14 - 1,42108547152E-13

Le défaut provient du Système
Même calcul avec Excel :
Nombre  0,254  2,54  25,4  254  2540
Diviseur  2,54  2,54  2,54  2,54  2,54
Reste  0,254  0  2,54  2,54  2,54
                   
Nombre  0,254  2,54  25,4  254  2540
Diviseur  25,4  25,4  25,4  25,4  25,4
Reste  0,254  2,54  0  1,42109E-14  1,42109E-13

Résultats identiques avec BigSur

En revanche, , si j'utilise la formule =CONVERT(A2;"cm";"in") puis B2,
etc, j'obtiens des nombres entiers,
0,254  2,54  25,4  254  2540
0,1  1  10  100  1000
donc pas de restes. (sauf pour 0,1 bien sûr) qui correspond à 1/10ème.

Il  faudrait que tu trouves l'équivalent de cette formule en AS
--
Gérard FLEUROT