Blad precyzji

Tematy związane z zauważonymi błędami w LabVIEW oraz lista życzeń - nowe funkcje, które mogłyby się znaleźć w nowej wersji.

Blad precyzji

Postprzez Quishu » 23 wrz 2016 12:07

Witam,

Jestem poczatkujacym uzytkownikiem LabVIEW i napotkalem sie z takim sytuacja:

Obrazek


Niezaleznie od tego czy zmienne sa typu Extended Precision czy DBL VI dziala tak samo.
Wie ktos jak mozna rozwiazac taki problem?

Pozdrawiam
Quishu
 
Posty: 3
Dołączył(a): 06 wrz 2016 07:17
Wersja środowiska: LabVIEW 2014

Re: Blad precyzji

Postprzez TMa » 23 wrz 2016 12:18

Jeśli porównujesz wartości zmiennoprzecinkowe musisz określić precyzję porównania. Zobacz tutaj:
Comparing Floating Points Does Not Seem to be Working Properly
Comparing Floating-Point Numbers


Pochwały przyznane za posta: 2
TMa
 
Posty: 190
Dołączył(a): 07 sty 2010 12:56
Pochwały: 36
Wersja środowiska: LabVIEW 2014

Blad precyzji

Postprzez micard » 25 wrz 2016 19:24

Poza świetną odpowiedzią TMa, zwróć też uwagę na "czerwone kropki" przy terminalach (zwane coercion dots). Mówią one o niejawnej konwersji typu przed podaniem wartości na wejście bloku. Więcej tutaj:
https://zone.ni.com/reference/en-XX/hel ... cion_dots/


Autor postu otrzymał pochwałę
Avatar użytkownika
micard
 
Posty: 98
Dołączył(a): 30 wrz 2011 10:28
Pochwały: 13
Wersja środowiska: LabVIEW 2016

Re: Blad precyzji

Postprzez Quishu » 26 wrz 2016 07:09

Dziekuje za odpowiedzi, obie pomogly! ;)
Quishu
 
Posty: 3
Dołączył(a): 06 wrz 2016 07:17
Wersja środowiska: LabVIEW 2014


Powrót do Błędy i lista życzeń

Kto przegląda forum

Użytkownicy przeglądający ten dział: Brak zidentyfikowanych użytkowników i 1 gość

cron