Blad precyzji

Tematy związane z zauważonymi błędami w LabVIEW oraz lista życzeń - nowe funkcje, które mogłyby się znaleźć w nowej wersji.
Quishu
Posty: 3
Rejestracja: 06 wrz 2016 08:17
Wersja środowiska: LabVIEW 2014

Blad precyzji

Post autor: Quishu »

Witam,

Jestem poczatkujacym uzytkownikiem LabVIEW i napotkalem sie z takim sytuacja:

Obrazek


Niezaleznie od tego czy zmienne sa typu Extended Precision czy DBL VI dziala tak samo.
Wie ktos jak mozna rozwiazac taki problem?

Pozdrawiam
TMa
Posty: 203
Rejestracja: 07 sty 2010 12:56
Wersja środowiska: LabVIEW 2017

Re: Blad precyzji

Post autor: TMa »

Jeśli porównujesz wartości zmiennoprzecinkowe musisz określić precyzję porównania. Zobacz tutaj:
Comparing Floating Points Does Not Seem to be Working Properly
Comparing Floating-Point Numbers
Awatar użytkownika
micard
Posty: 207
Rejestracja: 30 wrz 2011 11:28
Wersja środowiska: LabVIEW 2017
Kontakt:

Blad precyzji

Post autor: micard »

Poza świetną odpowiedzią TMa, zwróć też uwagę na "czerwone kropki" przy terminalach (zwane coercion dots). Mówią one o niejawnej konwersji typu przed podaniem wartości na wejście bloku. Więcej tutaj:
https://zone.ni.com/reference/en-XX/hel ... cion_dots/
Quishu
Posty: 3
Rejestracja: 06 wrz 2016 08:17
Wersja środowiska: LabVIEW 2014

Re: Blad precyzji

Post autor: Quishu »

Dziekuje za odpowiedzi, obie pomogly! ;)
ODPOWIEDZ