のねのBlog

パソコンの問題や、ソフトウェアの開発で起きた問題など書いていきます。よろしくお願いします^^。

2020-08-19から1日間の記事一覧

python round

>>> 0.005*65536 327.68 >>> round(0.005*65536) 328 for i in range(290,400): a=i/65536 print(f"{i}={a:<20}=>",round(a,3)) 290=0.004425048828125 => 0.004 291=0.0044403076171875 => 0.004 292=0.00445556640625 => 0.004 293=0.0044708251953125 => …