cnCalc计算器论坛

 找回密码
 注册
搜索
查看: 2960|回复: 1

[求助] 怎样控制矩阵中元素数据的储存精度???

[复制链接]
发表于 2011-12-25 00:49:07 | 显示全部楼层 |阅读模式
Define LibPub nafit(x,y,m)=
Prgm
:aa:=newMat(m+1,m+1)
:b:=newMat(1,m+1)
:For i,1,m+1
:    For j,1,m+1
:        aa[i,j]:=det(sum((x .^ (i+j-2))))
:    EndFor
:    b[1,i]:=det(sum((x .^ (i-1) .* y)))
:EndFor
:a:=(aa^(−1)*b)
:Disp a
:setMode(1,20)
:a_:=approx(a)
:Disp a_
:Disp "y=",a[1,1]
:For n,2,m+1
:Disp "+",a[1,n],"x^",n-1
:EndFor
:Disp "y=",a_[1,1]
:For n,2,m+1
:Disp "+",a_[1,n],"x^",n-1
:EndFor
:EndPrgm
 楼主| 发表于 2011-12-25 00:51:42 | 显示全部楼层
y=[187 126 172 125 148 171];
x=[165 123 150 123 141 150];
nafit(x,y,4)
对于这样一组数据,已经算不出来了,因为中间过程相当接近奇异矩阵
matlab结果是
1.0e+003 *

   4.136000000000000
  -0.061000000000000
   0.000070312500000
   0.000002487182617
  -0.000000009000301
但是TiBasic只能给出错误
应该是存储精度问题
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|cnCalc计算器论坛

GMT+8, 2024-11-22 02:48 , Processed in 0.101952 second(s), 22 queries .

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表