Zaokrąglanie przy konwersji

Jeśli masz coś do powiedzenia w sprawie LabVIEW napisz. Tutaj są tematy, których nie można uściślić do innych działów.
mikkeboss
Posty: 1
Rejestracja: 07 sie 2015 10:43
Wersja środowiska: LabVIEW 2014

Zaokrąglanie przy konwersji

Post autor: mikkeboss »

Witam,

Wczytuję z pliku excela wartości, które następnie zmieniam ze stringa na double. Przy konwersji zaokrągla mi wynik. Przykładowo, wczytuje 156,025, a dostaje 156.05. Próbowałem kombinować z format string ale ani "%10.6f" ani inne formaty nie pomagają. Czy ktoś ma jakiś pomysł co z tym zrobić, czy będe musiał dzielić string na część całkowita i ułamkową i z tego składać liczbę (później i tak mnożę otrzymany wynik *1000)?

Z góry dzięki za pomoc!
Awatar użytkownika
Pitol
Moderator
Posty: 982
Rejestracja: 19 lip 2007 00:00
Wersja środowiska: LabVIEW 2019
Lokalizacja: Kraków

Zaokrąglanie przy konwersji

Post autor: Pitol »

Pokaż kod bo inaczej to wróżymy z fusów...

EDIT:
Najprościej jak sie da...
Capture.PNG
Capture.PNG (22.07 KiB) Przejrzano 4254 razy
ObrazekObrazekObrazek
Chcesz taki podpis? Zajrzyj tutaj
ODPOWIEDZ