Polskie Centrum LabVIEW

Read from spreadsheet file (lv7.1) dodaje sobie nieistniejące cyfry....???

Widze ze i LV8.0 również
jest takie powiedzenie: "real programmers use integers"
pozdrawiam pmaj

Czy jesteś pewien że potrzebujesz akurat 12 znaków precyzji wyświetlania wartości?
Proponuję zaglądnąć do właściwości kontrolki prawy klawisz: Format & Precision wartośc numeryczna obok pola o nazwie "Digits of Precision". Ponadto dobrze zrobi też zaznaczenie checkbox'a "Hide trailing zeros".
Metody. Metody numeryczne.

Oczywiście nie jest mi potrzebna aż taka ilość miejsc po przecinku i oczywiście można je ukrócić na wyświetlaczu, zrobiłem to aby zobrazować problem. Fakt pozostaje faktem że nie wiadomo skąd biorą się te dodatkowe liczby. Wartość liczby pozostaje mimo że nie widać co jest na dalszych miejscach po przecinku, ma to ogromny wpływ chociażby na średnią takiej tablicy - chyba taka sytuacja nie powinna mieć miejsca....
Chłopakom z NI tym przykładem też zabiłem ćwieka i prawdę mówiąc nie wiem jak sobie z tym poradzili. Problem tkwi w nieprawidłowej konwersji typów single na double i odwrotnie.
Na przyszłość pozostaje operować zmiennymi typu double mimo że nie jest potrzebna taka pracyzja....

metody mumeryczne metodami a praktyka praktyką.