Home > 誤差


Python 3における浮動小数点型の誤差と正確な表現方法

浮動小数点型における誤差の原因は、コンピュータが2進数で数値を表現するために生じる丸め誤差です。10進数で正確な表現ができる数値(例: 0.1)は、2進数で有限桁数で表現することができないため、近似されることになります。>>More