La fonction ValD()

Vous débutez et vous avez besoin d'aide ? N'hésitez pas à poser vos questions
superloupiot
Messages : 41
Inscription : mer. 30/déc./2009 10:11

La fonction ValD()

Message par superloupiot »

Bonjour,

ValD("2.30") retourne 2.299999999....8
Existe-t-il un moyen pour corriger ce problème?

Merci.
Backup
Messages : 14526
Inscription : lun. 26/avr./2004 0:40

Re: La fonction ValD()

Message par Backup »

superloupiot a écrit :Bonjour,

ValD("2.30") retourne 2.299999999....8
Existe-t-il un moyen pour corriger ce problème?

Merci.
tu utilise un ordinateur , et celui ci a une certaine precision ;)
elle n'est pas infini , tu aura toujours une erreur due a la retenu , puisqu'un ordinateur
est limité par les octets

si tu veux avoir un résultat "affiché" de 2.30
il te faudra faire un arrondi , mais dans l'absolu tu aura toujours ce problème

d'ailleurs prends ta calculette et fait

20 fois 2 puissance 2 , puis ce resultat tu le fait 20 fois 2 racine 2 , tu ne te retrouvera pas sur ton 2 de depart !!
(Merci Hebdogiciel ;) )
superloupiot
Messages : 41
Inscription : mer. 30/déc./2009 10:11

Re: La fonction ValD()

Message par superloupiot »

oui, finalement, ce n'est pas trop dérangeant parce qu'à la fin je ne garde que deux décimales et le résultat est correct.
Répondre