콘텐츠로 건너뛰기
메뉴
커뮤니티에 참여하려면 회원 가입을 하시기 바랍니다.
신고된 질문입니다
1 회신
3914 화면

Hello, 


I must handle numbers with high decimal precision due to the type of data I am measuring.


When doing the exercise of saving the number 744123812.85936641353 it shows me 744,123,812.85936677456 and 744123812.85936653614 is stored in the data bd. I don't understand what I'm doing wrong.


Could you give me a hand?

num= fields.Float('Number', digits=(21,11))
아바타
취소
베스트 답변

Hi Gustavo:

This is a standard issue with floating point arithmetic in python. Here's a link to a description of the issue and how to code to handle it.

https://docs.python.org/3/tutorial/floatingpoint.html?highlight=float precision

아바타
취소
관련 게시물 답글 화면 활동
0
11월 23
1137
0
6월 23
2318
0
10월 22
2189
0
10월 22
2306
2
10월 21
4606