matlab之控制数值精度(保留有效数字,小数点后几位)

有两种方法:

vpa

控制有效数数字位数:

digits(5); %定义精度
a=vpa(sqrt(2)); %a=1.4142

或者单独使用vpa

a=vpa(sqrt(2),5); %a=1.4142

roundn

可以用来控制小数点前(后)多少位

a=roundn(sqrt(2),-4); %a=1.4142

负数表示小数点后,正数表示小数点前。

注意与round的区别。round表示把小数往最接近的整数取整

已标记关键词 清除标记
相关推荐
©️2020 CSDN 皮肤主题: 编程工作室 设计师:CSDN官方博客 返回首页