固定字节的数值格式如何取舍范围与精度：三种小数精度的十个数值编码（实例16）

同样用一个有符号字节表示位置，留给小数的位越多，步距越细，但可表示的最大绝对范围也越小。只看小数位数，很容易忽略越界后的误差。

先确定规则与输入

整数编码范围固定为负一百二十八到一百二十七，分别比较一、三、五位小数。先把数值乘二的小数位数次方，再取最近整数，恰好半格时取较大的整数，最后限制到编码范围，读取时除回相同比例。

三种格式都只使用八位有符号整数，半格一律取较大整数。

逐项算出过程

小数位1，原值-23/4，放大为-23/2，最近整数-11，存储码-11，读回-11/2，误差1/4，范围限制False。

小数位1，原值253/32，放大为253/16，最近整数16，存储码16，读回8，误差3/32，范围限制False。

小数位1，原值-429/32，放大为-429/16，最近整数-27，存储码-27，读回-27/2，误差-3/32，范围限制False。

小数位1，原值247/32，放大为247/16，最近整数15，存储码15，读回15/2，误差-7/32，范围限制False。

小数位1，原值7/4，放大为7/2，最近整数4，存储码4，读回2，误差1/4，范围限制False。

小数位1，原值-89/32，放大为-89/16，最近整数-6，存储码-6，读回-3，误差-7/32，范围限制False。

小数位1，原值-1/64，放大为-1/32，最近整数0，存储码0，读回0，误差1/64，范围限制False。

小数位1，原值1/64，放大为1/32，最近整数0，存储码0，读回0，误差-1/64，范围限制False。

小数位1，原值127/32，放大为127/16，最近整数8，存储码8，读回4，误差1/32，范围限制False。

小数位1，原值129/32，放大为129/16，最近整数8，存储码8，读回4，误差-1/32，范围限制False。

小数位3，原值-23/4，放大为-46，最近整数-46，存储码-46，读回-23/4，误差0，范围限制False。

小数位3，原值253/32，放大为253/4，最近整数63，存储码63，读回63/8，误差-1/32，范围限制False。

小数位3，原值-429/32，放大为-429/4，最近整数-107，存储码-107，读回-107/8，误差1/32，范围限制False。

小数位3，原值247/32，放大为247/4，最近整数62，存储码62，读回31/4，误差1/32，范围限制False。

小数位3，原值7/4，放大为14，最近整数14，存储码14，读回7/4，误差0，范围限制False。

小数位3，原值-89/32，放大为-89/4，最近整数-22，存储码-22，读回-11/4，误差1/32，范围限制False。

小数位3，原值-1/64，放大为-1/8，最近整数0，存储码0，读回0，误差1/64，范围限制False。

小数位3，原值1/64，放大为1/8，最近整数0，存储码0，读回0，误差-1/64，范围限制False。

小数位3，原值127/32，放大为127/4，最近整数32，存储码32，读回4，误差1/32，范围限制False。

小数位3，原值129/32，放大为129/4，最近整数32，存储码32，读回4，误差-1/32，范围限制False。

小数位5，原值-23/4，放大为-184，最近整数-184，存储码-128，读回-4，误差7/4，范围限制True。

小数位5，原值253/32，放大为253，最近整数253，存储码127，读回127/32，误差-63/16，范围限制True。

小数位5，原值-429/32，放大为-429，最近整数-429，存储码-128，读回-4，误差301/32，范围限制True。

小数位5，原值247/32，放大为247，最近整数247，存储码127，读回127/32，误差-15/4，范围限制True。

小数位5，原值7/4，放大为56，最近整数56，存储码56，读回7/4，误差0，范围限制False。

小数位5，原值-89/32，放大为-89，最近整数-89，存储码-89，读回-89/32，误差0，范围限制False。

小数位5，原值-1/64，放大为-1/2，最近整数0，存储码0，读回0，误差1/64，范围限制False。

小数位5，原值1/64，放大为1/2，最近整数1，存储码1，读回1/32，误差1/64，范围限制False。

小数位5，原值127/32，放大为127，最近整数127，存储码127，读回127/32，误差0，范围限制False。

小数位5，原值129/32，放大为129，最近整数129，存储码127，读回127/32，误差-1/16，范围限制True。

分别比较步距二分之一、八分之一和三十二分之一。小数位更多时，靠近零的细节更容易保留，但较大的坐标更容易被限制到范围边缘。

复核时看什么

未被范围限制时，读回误差绝对值应不超过半个步距；一旦触及范围限制，就必须单独标记，不能继续套用这一误差界。负数半格的取法也要按已声明的规则执行。

练习时可以先遮住结果，沿用相同输入独立记录中间状态，再逐项比较。发现不同后先定位最早分歧，确认边界包含方式、编号起点、更新顺序以及是否提前取整。最后结果一致也不表示每个中间步骤都正确，因此保留过程记录有助于看清原因。

适用范围

这个模型没有采用某个网络协议的现成格式，也不比较具体处理器性能。真实同步还可能记录相对位置、分区编号或额外精度位。先按实际数值范围设计格式，再决定可接受的量化误差。