Skip to Content
เมนู
คุณต้องลงทะเบียนเพื่อโต้ตอบกับคอมมูนิตี้
คำถามนี้ถูกตั้งค่าสถานะ
1 ตอบกลับ
3909 มุมมอง

Hello, 


I must handle numbers with high decimal precision due to the type of data I am measuring.


When doing the exercise of saving the number 744123812.85936641353 it shows me 744,123,812.85936677456 and 744123812.85936653614 is stored in the data bd. I don't understand what I'm doing wrong.


Could you give me a hand?

num= fields.Float('Number', digits=(21,11))
อวตาร
ละทิ้ง
คำตอบที่ดีที่สุด

Hi Gustavo:

This is a standard issue with floating point arithmetic in python. Here's a link to a description of the issue and how to code to handle it.

https://docs.python.org/3/tutorial/floatingpoint.html?highlight=float precision

อวตาร
ละทิ้ง
Related Posts ตอบกลับ มุมมอง กิจกรรม
0
พ.ย. 23
1135
0
มิ.ย. 23
2318
0
ต.ค. 22
2175
0
ต.ค. 22
2302
2
ต.ค. 21
4604