怎样控制矩阵中元素数据的储存精度？？？
Define LibPub nafit(x,y,m)=Prgm
:aa:=newMat(m+1,m+1)
:b:=newMat(1,m+1)
:For i,1,m+1
: For j,1,m+1
: aa:=det(sum((x .^ (i+j-2))))
: EndFor
: b:=det(sum((x .^ (i-1) .* y)))
:EndFor
:a:=(aa^(−1)*b)
:Disp a
:setMode(1,20)
:a_:=approx(a)
:Disp a_
:Disp "y=",a
:For n,2,m+1
:Disp "+",a,"x^",n-1
:EndFor
:Disp "y=",a_
:For n,2,m+1
:Disp "+",a_,"x^",n-1
:EndFor
:EndPrgm y=;
x=;
nafit(x,y,4)
对于这样一组数据，已经算不出来了，因为中间过程相当接近奇异矩阵
matlab结果是
1.0e+003 *
4.136000000000000
-0.061000000000000
0.000070312500000
0.000002487182617
-0.000000009000301
但是TiBasic只能给出错误
应该是存储精度问题
页:
[1]