zapis do pliku

Tematy związane z zauważonymi błędami w LabVIEW oraz lista życzeń - nowe funkcje, które mogłyby się znaleźć w nowej wersji.
witl
Posty: 23
Rejestracja: 14 lip 2004 00:00
Lokalizacja: Wrocław
Kontakt:

zapis do pliku

Post autor: witl »

Read from spreadsheet file (lv7.1) dodaje sobie nieistniejące cyfry....???
PMaj
Posty: 231
Rejestracja: 04 sty 2004 00:00

Re: zapis do pliku

Post autor: PMaj »

Widze ze i LV8.0 również :)
jest takie powiedzenie: "real programmers use integers"
pozdrawiam pmaj
Nie jestem leniwy
Mam zawyżone wymagania motywacyjne
Awatar użytkownika
Mikrobi
Posty: 1210
Rejestracja: 08 paź 2003 00:00
Wersja środowiska: LabVIEW 2017

Re: zapis do pliku

Post autor: Mikrobi »

Czy jesteś pewien że potrzebujesz akurat 12 znaków precyzji wyświetlania wartości?
Proponuję zaglądnąć do właściwości kontrolki prawy klawisz: Format & Precision wartośc numeryczna obok pola o nazwie "Digits of Precision". Ponadto dobrze zrobi też zaznaczenie checkbox'a "Hide trailing zeros".
Metody. Metody numeryczne.
pozdrawiam
Mikrobi

LabVIEW Champion, CLD, CPI
witl
Posty: 23
Rejestracja: 14 lip 2004 00:00
Lokalizacja: Wrocław
Kontakt:

Re: zapis do pliku

Post autor: witl »

Oczywiście nie jest mi potrzebna aż taka ilość miejsc po przecinku i oczywiście można je ukrócić na wyświetlaczu, zrobiłem to aby zobrazować problem. Fakt pozostaje faktem że nie wiadomo skąd biorą się te dodatkowe liczby. Wartość liczby pozostaje mimo że nie widać co jest na dalszych miejscach po przecinku, ma to ogromny wpływ chociażby na średnią takiej tablicy - chyba taka sytuacja nie powinna mieć miejsca....
Chłopakom z NI tym przykładem też zabiłem ćwieka i prawdę mówiąc nie wiem jak sobie z tym poradzili. Problem tkwi w nieprawidłowej konwersji typów single na double i odwrotnie.
Na przyszłość pozostaje operować zmiennymi typu double mimo że nie jest potrzebna taka pracyzja....

metody mumeryczne metodami a praktyka praktyką.
ODPOWIEDZ