Blad precyzji

Tematy związane z zauważonymi błędami w LabVIEW oraz lista życzeń - nowe funkcje, które mogłyby się znaleźć w nowej wersji.
Quishu
Posty: 3
Rejestracja: 06 wrz 2016 08:17
Wersja środowiska: LabVIEW 2014

Blad precyzji

Post autor: Quishu » 23 wrz 2016 13:07

Witam,

Jestem poczatkujacym uzytkownikiem LabVIEW i napotkalem sie z takim sytuacja:

Obrazek


Niezaleznie od tego czy zmienne sa typu Extended Precision czy DBL VI dziala tak samo.
Wie ktos jak mozna rozwiazac taki problem?

Pozdrawiam

TMa
Posty: 198
Rejestracja: 07 sty 2010 12:56
Wersja środowiska: LabVIEW 2017
Been thanked: 3 times

Re: Blad precyzji

Post autor: TMa » 23 wrz 2016 13:18

Jeśli porównujesz wartości zmiennoprzecinkowe musisz określić precyzję porównania. Zobacz tutaj:
Comparing Floating Points Does Not Seem to be Working Properly
Comparing Floating-Point Numbers

Awatar użytkownika
micard
Posty: 124
Rejestracja: 30 wrz 2011 11:28
Wersja środowiska: LabVIEW 2016
Has thanked: 4 times
Been thanked: 2 times
Kontakt:

Blad precyzji

Post autor: micard » 25 wrz 2016 20:24

Poza świetną odpowiedzią TMa, zwróć też uwagę na "czerwone kropki" przy terminalach (zwane coercion dots). Mówią one o niejawnej konwersji typu przed podaniem wartości na wejście bloku. Więcej tutaj:
https://zone.ni.com/reference/en-XX/hel ... cion_dots/

Quishu
Posty: 3
Rejestracja: 06 wrz 2016 08:17
Wersja środowiska: LabVIEW 2014

Re: Blad precyzji

Post autor: Quishu » 26 wrz 2016 08:09

Dziekuje za odpowiedzi, obie pomogly! ;)

ODPOWIEDZ