ปกติไม้บรรทัดมีความละเอียด 0.1 เซนติเมตร
คำว่าความละเอียดหมายถึงไม้บรรทัดสามารถทำให้เรามั่นใจว่าจะเพิ่มขีดละ 0.1 เช่น เมื่อเริ่มขีดยาว ๆ ที่เลข 1 เมื่อขยับไปอีกขีดทางขวาจะเป็น 1.1 เมื่อขยับไปอีกขีดจะเป็น 1.2 , 1.3, 1.4 ไปเรื่อย

จากรูปนักเรียนจะเห็นว่าก้อนวัตถุหนึ่งอ่านค่าได้ระหว่าง 3.6 หรือ 3.7 แต่ไม่มั่นใจ นักเรียนเลยประมาณโดยการแบ่งช่วงด้วยตัวเองระหว่าง 3.6 กับ 3.7 เป็นจำนวน 10 ช่อง ทำให้นักเรียนบอกได้ว่า มันอยู่ที่ 3.69 ซึ่งเลข 9 นี้เป็นเลขที่ไม่มั่นใจ(ลองถามเพื่อนข้าง ๆ หลายคนดู) แสดงว่าความละเอียดตอนนี้โดยสายตาเราเท่ากับ 0.01 เซนติเมตร นักเรียนอาจจะรายงานผลเป็น 3.69 ± 0.01 เซนติเมตร ซึ่งหมายถึงความยาวของวัตถุนี้อยู่ที่ 3.68 ถึง 3.70 

แต่บางครั้งสายตาไม่สามารถจะแบ่งระหว่างเลข 3.6 และ 3.7 ได้ถึง 10 ช่อง ซึ่งบางคนขอแบ่งขีดตรงกลางระหว่าง 3.6 กับ 3.7 แสดงว่าความละเอียดโดยสายตาตอนนี้ของเขาคือ 0.05 ทำให้เขาเขียนรายงานผลเป็น 3.65 ± 0.05 เซนติเมตร ซึ่งก็ไม่ผิดอะไร เพราะยังสังเกตได้ชัดเจนว่าความยาวของวัตถุนี้อยู่ระหว่าง 3.60 ถึง 3.70 

ไม่ว่าจะแบ่งแบบไหนตัวเลขข้างหลัง ± เราเรียกว่าความคลาดเคลื่อน (ความไม่แน่นอนในการวัด)