Blad precyzji

[Quishu]

Witam,

Jestem poczatkujacym uzytkownikiem LabVIEW i napotkalem sie z takim sytuacja:




Niezaleznie od tego czy zmienne sa typu Extended Precision czy DBL VI dziala tak samo.
Wie ktos jak mozna rozwiazac taki problem?

Pozdrawiam

[TMa]

Jeśli porównujesz wartości zmiennoprzecinkowe musisz określić precyzję porównania. Zobacz tutaj:
Comparing Floating Points Does Not Seem to be Working Properly
Comparing Floating-Point Numbers

[micard]

Poza świetną odpowiedzią TMa, zwróć też uwagę na "czerwone kropki" przy terminalach (zwane coercion dots). Mówią one o niejawnej konwersji typu przed podaniem wartości na wejście bloku. Więcej tutaj:
https://zone.ni.com/reference/en-XX/hel ... cion_dots/

[Quishu]

Dziekuje za odpowiedzi, obie pomogly! ;)