作业帮 > 数学 > 作业

数学卷子里有这样一题:赵刚利用科学计算机计算0.15+0.27,虽然按键正确但结果总为0其原因是什么

来源:学生作业帮 编辑:拍题作业网作业帮 分类:数学作业 时间:2024/05/13 14:50:34
数学卷子里有这样一题:赵刚利用科学计算机计算0.15+0.27,虽然按键正确但结果总为0其原因是什么
原因是他设定保留到整数位了,
0.15+0.27=0.42≈0
通过科学计算器的FIX功能可以设定保留几位小数的,如果设定保留0位小数,就会出现上面的情况,解决办法是,将保留小数的位数改成2到9的任何数字