有限精度 · 一次舍入
一把二进制数尺
输入落在两个节点之间时,比较距离;距离相同,再看有效数字的末位。
小数点后只有 p−1 位。
改指数时,输入按相同比例缩放。
含右端共 个节点舍入单位 u =
右端 2e+1 是下一段的第一个节点。本图保留它,便于判断靠近右端时的舍入。
把这一小段放大
左邻居
距离
右邻居
距离
浮点节点输入 x核对后显示舍入点
这一次会落在哪儿?
舍入值 fl(x)
绝对误差
相对误差
有限精度 · 一次舍入
输入落在两个节点之间时,比较距离;距离相同,再看有效数字的末位。
小数点后只有 p−1 位。
改指数时,输入按相同比例缩放。
右端 2e+1 是下一段的第一个节点。本图保留它,便于判断靠近右端时的舍入。
距离
距离