jcg5892 发表于 2020-12-30 19:37:31

佳能789在算矩阵广义逆时遇到的奇怪问题

要算广义逆的矩阵如下

由观察可知，A为行满秩矩阵，可直接利用如下的公式计算广义逆

但789在计算时出现了奇怪的问题，如果直接将上面公式输入进去，按等号后可能会出现math error或者一个形状正确但数值错误的矩阵






要想得到正确的答案，需要先计算,将其储存在MatAns中，再用乘以MatAns才能得到正确答案，正确答案如下


不清楚是不是软件设计原因还是硬件原因。


页: [1]
查看完整版本: 佳能789在算矩阵广义逆时遇到的奇怪问题