division avec arrondi au nombre supérieur normal ou pas ?

comtois · Message par **comtois** » mar. 22/juin/2004 22:14

Je fais ça

mx.f = 64
mx1 = 120/mx
Debug mx1

Et comme mx1 est un long , je m'attendais à ce qu'il prenne la valeur 1 , or il prend la valeur 2 . Si je mets mx.l , là c'est ok , ça marche comme attendu . Bon pourquoi pas ,il suffit de le savoir , mais j'étais étonné , et surtout j'ai cherché un moment pourquoi j'avais des erreurs

Est-ce que ça vous semble normal ce résultat ?

Backup · Message par **Backup** » mar. 22/juin/2004 22:22

120/64=1.875

2= arrondi

car au dessus de 1.500 c'est egale a 2
et en dessous c'est egale a 1
c'est le principe de l'arrondi ça !!

moi je trouve ça normal !! (et mem pratique !! pour la compta !! )

comtois · Message par **comtois** » mar. 22/juin/2004 23:02

Ben ça se défend

Jétais persuadé qu'en prenant un entier , je n'aurais que la partie entière en résultat. Bon , pas grave , il suffit de le savoir .

Maintenant je fais comme ça

Code : Tout sélectionner

mx.f = 64 
mx1 = Int(120/mx) 
Debug mx1

Backup · Message par **Backup** » mer. 23/juin/2004 0:01

j'allais le dire int() sert à ça !!

Dr. Dri · Message par **Dr. Dri** » mer. 23/juin/2004 8:30

Dobro a écrit :120/64=1.875

2= arrondi

car au dessus de 1.500 c'est egale a 2
et en dessous c'est egale a 1
c'est le principe de l'arrondi ça !!
moi je trouve ça normal !! (et mem pratique !! pour la compta !! )

un arrondi "au dessus" c'est à partir de 1.5 et pas au delà

Sinon je pense qu'une division d'entier devrait etre entiere... Et pas arrondie... Mais comme dis comtois l'essentiel c'est de le savoir... Et je crois que ca m'a fait comprendre pourquoi un de mes portages DB vers PB ne fonctionne pas du tout...

Dri

fweil · Message par **fweil** » mer. 23/juin/2004 16:42

Code : Tout sélectionner

mx.f = 64 
mx1 = 120/mx 
Debug mx1

nx.l = 64
nx1 = 120/nx
Debug nx1

donne

2
1

dans le debugger ce qui correspond bien à un comportement cohérent :

- si la division est basée sur des entiers en totalité le calcul se fait en entiers et donc le résultat est bien équivalent à Int().

- si la division contient un ou plusieurs flottants, le calcul est réalisé en flottant et le résultat est arrondi à la valeur entière la plus proche avant d'être affecté à la variable.

Le code généré en ASM montre bien ce comportement.

Slts