Naleur numérique 1.#j

Sujets variés concernant le développement en PureBasic
Narayan
Messages : 2
Inscription : mar. 05/août/2008 8:33

Naleur numérique 1.#j

Message par Narayan »

Bonjour,

je réalise des calculs avec des flottants et il arrive parfois que le résultat retourné, après être passé par la fonction StrF(), soit de la forme -1.#j ou 1.#j .

Je ne met pas en doute qu'il y ai un problème avec mon calcul. Mais après avoir recherché longtemps dans la documentation je n'arrive pas à trouver l'information au sujet de ce retour (not a number, infinni...).

Aussi j'en appelle aux personnes qui peuvent m'apporter plus d'informations à ce sujet.

Merci à ce qui peuvent me répondre,

Narayan.
Avatar de l’utilisateur
Le psychopathe
Messages : 764
Inscription : jeu. 03/mars/2005 19:23

Message par Le psychopathe »

Bonjour
Pour avoir une réponse, il faut mieu que tu mettes ton code ;)
@+
Narayan
Messages : 2
Inscription : mar. 05/août/2008 8:33

Valeur numérique 1.#J

Message par Narayan »

Salut Le psychopate,
il faut mieu que tu mettes ton code
Cela risque d'être difficile car le calcul se base sur des règles de gestion qui elles-même font références à différents fichiers logs. Ce même calcul n'est pas une formule mais un ensemble de fonctions... Enfin, vous comprendrez que c'est un peu galère à poster sur un forum.

En fait je pose la question à tout hasard dans l'espoir ou un crack de PureBasic passe par là et puisse me renseigner.

Toutefois le sujet pouvant, potentiellement, devenir problématique en ce qui me concerne, je vais creuser et je ferai part de mon analyse sur le forum ou cas où cela puisse en aider d'autres.

Narayan.
Avatar de l’utilisateur
Thyphoon
Messages : 2706
Inscription : mer. 25/août/2004 6:31
Localisation : Eragny
Contact :

Message par Thyphoon »

je me demande si ça ne signifie pas un depassement de variable.
en gros c'est trop grand...peut être passer ta variable en quad..ou un truc du genre...
Répondre