新闻中心

EEPW首页>嵌入式系统>设计应用> 单片机浮点数的实用快速降法

单片机浮点数的实用快速降法

作者: 时间:2012-03-08 来源:网络 收藏

可见只需要在X/YH的基础上再乘以一个修正因子(YH-YL)/YH,就可以得到X/Y的一次校准值。不难证明这个值已经达到了24位的精度要求。事实上,相对误差满足:



评论


相关推荐

技术专区

关闭