Matheknoten rechnet falsch!!!

[skobschaetz@bieler-lang.de]

Ich habe heute festegestellt, dass der Matheknoten falsch rechnet

bzw. das die Fliesskommagenauigkeit geringer ist.

So nun wollte ich einfach wiessen warum das so ist und ob es eine möglichkeit gibt

das auch der Matheknoten "richtig" Rechnet. An bei habe ich noch ein paar Screenshots.

2 von Labview und eines von C# als vergleich.

Ich verwende jeweils die gleichen Formeln.

[GerdW]

Hi skobsch...,

abgesehen davon, dass MathScript ein bischen Overkill (und Overhead) für diese einfache Rechnung darstellt, sollte natürlich das gleiche Ergebnis rauskommen...

Kannst du eine (vereinfachte) Version des vis anhängen? Dann müssen wir nicht alles nachprogrammieren und man erhält auch deine kompletten Vorgaben...

[MikeS81]

Hi skobsch...,

ich kann keinen Unterschied feststellen. Hier mal das vi das ich zum Testen benutzt habe.

Mike

[shoneill]

Im "Richtigen" hast Du "+0.003wasauchimmer" * 293-Temperatur verwendet.
im "Falschen" aber "-0.003wasauchimmer" * 293-Temperatur verwendet.

Könnte dieser Unterschied etwa eine Erklärung sein?

Gruss

Shane.

[MikeS81]

Hi skobsch...,

in dem Math-Script rechnest du mit "-0.001039" und in dem anderen mit "+0.001039".

Mike

Message Edited by MikeS81 on 04-22-2008 11:00 AM

[shoneill]

Ja genau.

Ich bin froh es hat sonst noch jemand gemerkt....

Gruss

Shane.

PS Meine Zahlen sind wohl daneben, aber der Effekt ist der gleiche.....


Message Edited by shoneill on 04-22-2008 11:01 AM

[skobschaetz@bieler-lang.de]

ahhja....ok...danke euch!

Das Programm ist von einem Kollegen, dessen Fehler jetzt gefunden wurde.

hehe...er hat den Temperaturwert einmal vom Klimaschrank eingelesen und einmal manuell eingegeben.

Das ist keinem auf den ersten Blick aufgefallen ^^

Nunja...der Formfelknoten weis seine Aufgabe zu erledigen.

bye

best regards

Simon Kob.

[skobschaetz@bieler-lang.de]

ach und das Minus hat den Effekt noch verwirrungstiftend erhöht ^^

[shoneill]

Tja,

kann jeder passieren.

Wer ein Programm selber schreibt kann die Fehler am schlechtesten finden....

Ciao

Shane