Re: [Humour] Grande précision & JavaScript

Liste des GroupesRevenir à fs maths 
Sujet : Re: [Humour] Grande précision & JavaScript
De : me (at) *nospam* pla.net.invalid (robby)
Groupes : fr.comp.lang.javascript fr.sci.maths
Date : 09. Nov 2024, 17:58:00
Autres entêtes
Organisation : Guest of ProXad - France
Message-ID : <672f9498$0$11449$426a74cc@news.free.fr>
References : 1
User-Agent : Mozilla Thunderbird
Le 09/11/2024 à 12:00, Thierry Loiseau a écrit :
En effet, à 0.000000000000001 près, il trouve 6 pour vérifier que
"10.3-4.3" est bien la soustraction idéale.
evidemment: les nombres représentées dans l'ordinateur ( généralement sur 32 bits ) ont une précision limitée.
cf https://en.wikipedia.org/wiki/IEEE_754
idem pour 1./3. * 3.
( ce qui fait qu'en GLSL, mod(33.,33.) = 33. ;-) ).
--
Fabrice

Date Sujet#  Auteur
9 Nov 24 * [Humour] Grande précision & JavaScript2Thierry Loiseau
9 Nov 24 `- Re: [Humour] Grande précision & JavaScript1robby

Haut de la page

Les messages affichés proviennent d'usenet.

NewsPortal