Coverage 分辨率（精度）

分辨率是指识别和分辨要素的能力。coverage 的重要特征之一就是其分辨率（精度），可以特定的分辨率来存储地理要素的位置和形状。例如，分辨率为 1 米表示坐标的真实地面位置位于 1 米的存储坐标值之内。

coverage 分辨率受三个因素影响：指定的坐标精度；输入设备的精度（例如，数字化绘图板）；以及输入文档和 coverage 处理容差的比例，尤其是很多地理处理命令中使用的模糊容差。

坐标精度

坐标精度是指坐标的数学精确度，取决于可为各个坐标保留的有效数字位数。coverage 数据集可使用单精度坐标形式存储，也可使用双精度坐标形式存储。单精度最多可为各个坐标存储七位有效数字。这就是说，将 4,999,999.6 个单位或 5,000,000.4 个单位的值以单精度存储时，值将四舍五入为 5,000,000 个单位。另一方面，以单精度存储时，值 5,000,000.6 将四舍五入为 5,000,001 个单位。使用双精度就可以轻松避免这种情况的出现。双精度最多可存储 15 个有效数字（通常为 13 到 14 个），因此可在全局范围内保持小于 1 米的数学精度。请注意，虽然数学精度不定义准确性，但它是 coverage 分辨率中的主要因素。

根据使用的精度，计算机仅能识别有限数量的小数位数。对于单精度数字，例如：1.2345678 和 1.23456789，由于系统会忽略七位以上的小数数位，因此计算机将假定二者相等。想像以下：在每个与存储在计算机中的坐标分辨率相等的坐标周围都有一个非常小的晕圈。计算机会将具有重叠晕圈的坐标识别为同一位置。

坐标精度示例

当两坐标的晕圈重叠时，计算机会将这两个坐标视为相等。

应尽量对 coverage 使用双精度坐标。使用双精度坐标可以为所有的处理（例如，0.00000001）设置极小的模糊容差，因此可将模糊处理对坐标平移的影响降至最低。

如果将 shapefile 转换为 coverage，请使用要素类转 Coverage 工具并将精度设置为“双精度”（在“Coverage 设置”下的“环境”对话框中）。shapefile 始终会使用双精度；因此，应将 coverage 设置为“双精度”以避免在转换过程中准确性下降。

设备精度和输入文档比例

分辨率还会受到输入设备分辨率和输入文档比例的限制。例如，假设数字化绘图板的分辨率为 .002 英寸 - 该数字化仪上点与点之间的最小距离为 .002 英寸 - 且正进行数字化的地图的比例为 1:63,360，则可通过以下多种方式来描述地图比例：

• 地图上的 1 英寸 = 地面上的 63,360 英寸
• 地图上的 1 英寸 = 地面上的 5,280 英尺 (63,360/12)
• 地图上的 1 英寸 = 地面上的 1,609 米
• 地图上的 0.002 英寸 = 地面上的 10.56 英尺

其中最后一行将数字化仪的分辨率与地面上的距离视为相等。由于 coverage 不可能比数字化仪的分辨率更准确，因此对于从比例为 1:63,360 的地图进行数字化的坐标，用于分隔这些坐标的最小距离表示地面上长度为 10.56 英尺的距离。如果 coverage 的坐标以英尺为单位进行存储，那么 coverage 的分辨率不会高于 10.56 英尺。如果此分辨率不能接受，则必须对使用较大比例的地图进行数字化。