工具与软件:
我正在尝试在 Python 中模拟一些 IQmath 操作。 我已经注意到_Q15div (0x003c、0x888)不会生成0xc000、而是生成0xc001。 正确答案是-0.5 (0xc000)、但除法返回-0.499969482421875 (0xc001)。 我注意到 IQmath pdf 中的14位_QNdiv 精度表可作为显示差异的原因。 我想知道:
*库的-0.4999答案是否正确? 或者它应该是-0.5? 即它是错误吗?
*有没有办法用 Python (或其他高级语言)来做这个数学,得到同样的结果? 如果我将60 (0x003c)除以-120 (0xff88)、得到-0.5。
我的目标是在 Python 中模拟固件。 如果数学有一点不准确、对我的代码来说无关紧要、但我确实需要对其进行仿真(这更难做到)。
谢谢你。