Page 1 sur 1

La fonction ValD()

Publié : dim. 03/janv./2010 12:14
par superloupiot
Bonjour,

ValD("2.30") retourne 2.299999999....8
Existe-t-il un moyen pour corriger ce problème?

Merci.

Re: La fonction ValD()

Publié : dim. 03/janv./2010 13:43
par Backup
superloupiot a écrit :Bonjour,

ValD("2.30") retourne 2.299999999....8
Existe-t-il un moyen pour corriger ce problème?

Merci.
tu utilise un ordinateur , et celui ci a une certaine precision ;)
elle n'est pas infini , tu aura toujours une erreur due a la retenu , puisqu'un ordinateur
est limité par les octets

si tu veux avoir un résultat "affiché" de 2.30
il te faudra faire un arrondi , mais dans l'absolu tu aura toujours ce problème

d'ailleurs prends ta calculette et fait

20 fois 2 puissance 2 , puis ce resultat tu le fait 20 fois 2 racine 2 , tu ne te retrouvera pas sur ton 2 de depart !!
(Merci Hebdogiciel ;) )

Re: La fonction ValD()

Publié : dim. 03/janv./2010 16:34
par superloupiot
oui, finalement, ce n'est pas trop dérangeant parce qu'à la fin je ne garde que deux décimales et le résultat est correct.