probleme boucle formule

[tun7890]

Bonjour,

J'ai rencontré un problème dans un VI utilisant la boucle "Formula Node" sous LabVIEW 8.6.

En regardant la face-avant, on voit que l'offset calculé par la boucle formule est de 5.5 *10^-17 alors qu'il devrait être 0 comme le montre les blocs d'opération.

D'ou provient l'erreur?

Merci d'avance pour vos réponses.

tun7890

[JB]

Juste pour information, vous avez une incohérence entre la formule et le code au niveau du calcul de l'offset. Dans le code, l'offset est calculé ainsi : Offset = (Gain*Min)-MinPhy. Cela ne change cependant pas le résultat qui reste à 0.

A mon humble avis, il s'agit ici d'une question d'arrondi (E-17 !) liée à la représentation binaire des nombres à virgule dans la mémoire de l'ordinateur. Pour rappel, le type DBL a une précision d'environ 15 décimales. Voir cette table pour plus de détails. Reste à expliquer pourquoi le formula node génère un résultat différent...