这些小活动你都参加了吗?快来围观一下吧!>>
电子产品世界» 论坛首页» 嵌入式开发» MCU» 求助:数据解算精度异常降低

共2条 1/1 1 跳转至

求助:数据解算精度异常降低

菜鸟
2007-08-27 22:41:47 打赏
各位大哥大姐:
最近遇到一个问题,异常困惑:VxWorks5.4.2系统运行了4个任务,其中有一个人机
交互界面任务,3个解算任务,但界面任务进行图形放大操作时(此操作特别占用CPU资源),
偶然发现(概率很低),其中3个解算任务的计算精度都降低了,所有的计算都从先前的小数点后15位以上的精度降为小数点后仅5位!!!
困惑!!!
求哥哥、姐姐帮忙!!!谢谢!!!




关键词: 求助 数据 解算 精度 异常 降低

高工
2007-08-28 08:05:21 打赏
2楼

由于计算机在同时运行多个程序时,会将CPU资源分成几部分来使用,每部分所使用的为数就会受限,故你计算的精度就会降低


共2条 1/1 1 跳转至

回复

匿名不能发帖!请先 [ 登陆 注册]