Witam,
Jestem poczatkujacym uzytkownikiem LabVIEW i napotkalem sie z takim sytuacja:
Niezaleznie od tego czy zmienne sa typu Extended Precision czy DBL VI dziala tak samo.
Wie ktos jak mozna rozwiazac taki problem?
Pozdrawiam
Blad precyzji
Re: Blad precyzji
Jeśli porównujesz wartości zmiennoprzecinkowe musisz określić precyzję porównania. Zobacz tutaj:
Comparing Floating Points Does Not Seem to be Working Properly
Comparing Floating-Point Numbers
Comparing Floating Points Does Not Seem to be Working Properly
Comparing Floating-Point Numbers
Blad precyzji
Poza świetną odpowiedzią TMa, zwróć też uwagę na "czerwone kropki" przy terminalach (zwane coercion dots). Mówią one o niejawnej konwersji typu przed podaniem wartości na wejście bloku. Więcej tutaj:
https://zone.ni.com/reference/en-XX/hel ... cion_dots/
https://zone.ni.com/reference/en-XX/hel ... cion_dots/
Re: Blad precyzji
Dziekuje za odpowiedzi, obie pomogly! ;)