Strona 1 z 1

Blad precyzji

: 23 wrz 2016 13:07
autor: Quishu
Witam,

Jestem poczatkujacym uzytkownikiem LabVIEW i napotkalem sie z takim sytuacja:

Obrazek


Niezaleznie od tego czy zmienne sa typu Extended Precision czy DBL VI dziala tak samo.
Wie ktos jak mozna rozwiazac taki problem?

Pozdrawiam

Re: Blad precyzji

: 23 wrz 2016 13:18
autor: TMa
Jeśli porównujesz wartości zmiennoprzecinkowe musisz określić precyzję porównania. Zobacz tutaj:
Comparing Floating Points Does Not Seem to be Working Properly
Comparing Floating-Point Numbers

Blad precyzji

: 25 wrz 2016 20:24
autor: micard
Poza świetną odpowiedzią TMa, zwróć też uwagę na "czerwone kropki" przy terminalach (zwane coercion dots). Mówią one o niejawnej konwersji typu przed podaniem wartości na wejście bloku. Więcej tutaj:
https://zone.ni.com/reference/en-XX/hel ... cion_dots/

Re: Blad precyzji

: 26 wrz 2016 08:09
autor: Quishu
Dziekuje za odpowiedzi, obie pomogly! ;)