来源：学生作业帮 编辑：大师作文网作业帮 分类：数学作业 时间：2024/11/12 23:26:33
关于mathematica的精度问题
N[1/7,40]
输出的是0.1428571428571428571428571428571428571429
而N[0.1/7,40]
输出的确实0.0142857
为什么?
在Mathematica中,一旦出现小数点,程序就按照非全精度,有效数字一般是六位.这时函数N便失效,若想得到更高精度至少有两种方式：1,尽量把小数用分数代替,避免出现小数点 2,采用`+精度位数处理的方式.
大师作文网