การใช้สูตร Pythagorean ในตำแหน่งที่ให้ไว้ในละติจูดและลองจิจูดนั้นใช้ความรู้สึกเพียงเล็กน้อยเช่นการคำนวณพื้นที่ของวงกลมโดยใช้สูตรสำหรับสแควร์: แม้ว่ามันจะสร้างตัวเลขขึ้นมา แต่ก็ไม่มีเหตุผลที่จะคิดว่ามันควรจะทำงาน
แม้ว่าเกล็ดขนาดเล็กผิวเรียบๆจะดูเหมือนเครื่องบิน แต่ความแม่นยำของสูตรพีทาโกรัสนั้นขึ้นอยู่กับพิกัดที่ใช้ เมื่อพิกัดเหล่านั้นเป็นละติจูดและลองจิจูดบนทรงกลม (หรือทรงรี) เราสามารถคาดหวังได้
ระยะทางตามแนวเส้นแวงจะมีความแม่นยำอย่างสมเหตุสมผล
ระยะทางตามเส้นศูนย์สูตรจะมีความแม่นยำพอสมควร
ระยะทางอื่น ๆ ทั้งหมดจะผิดพลาดในสัดส่วนคร่าวๆกับความแตกต่างของละติจูดและลองจิจูด
ข้อผิดพลาดขึ้นอยู่กับจุดเริ่มต้นและจุดสิ้นสุดของการคำนวณระยะทาง อย่างไรก็ตามเนื่องจากทั้งทรงกลมและทรงรีมีความสมมาตรเป็นวงกลมรอบแกนข้อผิดพลาดขึ้นอยู่กับความแตกต่างของ longitudes เท่านั้นดังนั้นเพื่อศึกษาข้อผิดพลาดนี้เราอาจใช้จุดกำเนิดอยู่ที่ Prime Meridian เนื่องจากทั้งทรงกลมและทรงรีมีความสมมาตรภายใต้เงาสะท้อนเหนือ - ใต้เราจึงต้องศึกษาจุดกำเนิดในซีกโลกใต้เท่านั้น สำหรับประเด็นดังกล่าวเราอาจวาดแผนที่รูปร่างของข้อผิดพลาดสัมพัทธ์เท่ากับ [การคำนวณพีทาโกรัส] / [ระยะทางจริง]
สูตรของพีทาโกรัสที่ใช้รัศมีเฉลี่ยของโลกคือ
Pythagorean distance = 6371000. * Sqrt[dx^2 + dy^2]] * pi / 180 meters
โดยที่dxคือความแตกต่างใน longitudes และdyคือความแตกต่างในละติจูดทั้งในองศา (ความแตกต่างของค่าลองจิจูดลดลงโมดูโล 360 เพื่อให้ค่าที่ถูกต้องของdxเมื่อข้าม antimeridian; การทำเช่นนั้นจะไม่แนะนำข้อผิดพลาดที่มีขนาดใหญ่เทียมที่บอกเราเกี่ยวกับสูตรของพีทาโกรัสเอง)
พล็อตต่อไปนี้แสดงข้อผิดพลาดสัมพัทธ์เมื่อเทียบกับระยะทางที่ถูกต้องของ WGS 84 ellipsoid สำหรับละติจูดตั้งแต่ -70 ถึง 0 โดยเพิ่มขึ้นทีละ 10 องศา พิกัดแนวนอนคือความแตกต่างของลองจิจูดและพิกัดแนวตั้งคือละติจูดของปลายทาง พื้นที่แสงมีข้อผิดพลาดค่อนข้างน้อย: เส้นชั้นความสูงอยู่ที่ 1, 1.01, 1.02, 1.05, 1.1, 1.2, 1.5, 2, ฯลฯ (พื้นที่สีขาวบริสุทธิ์ในมุมเป็นสถานที่ที่ข้อผิดพลาดเกินขอบเขตของรูปทรงเหล่านี้ .) จุดสีแดงแสดงจุดกำเนิด
แถบสีขาวแนวตั้งเป็นเครื่องยืนยันถึงความถูกต้องของความคาดหวัง (1): ระยะทางของพีทาโกรัสนั้นแม่นยำเมื่อมีความยาวต่างกันเล็กน้อย แถบสีขาวแนวนอนที่ละติจูดต่ำแสดงถึงความคาดหวัง (2): ใกล้กับเส้นศูนย์สูตร มิฉะนั้นเป็นพยานภูมิภาคเข้มอย่างกว้างขวางในทุกระยะทางอื่น ๆ สูตรพีทาโกรัสจะไม่ดี
เราสามารถทำการประเมินเชิงปริมาณได้สูงสุดเกิดข้อผิดพลาดสำหรับคู่ของจุดที่อยู่ใกล้เคียง (ภายในพูดกันสองสามร้อยกิโลเมตรจากกัน) สเกล - การใช้ค่าที่เหมาะสมสำหรับรัศมีนั้นเป็นจริงตามแนวเส้นเมริเดียน แต่ตามวงกลมของละติจูดนั้น ตัวอย่างเช่นที่ละติจูด 40 องศาเซแคนต์คือ 1.31 หมายความว่าสูตรพีทาโกรัสจะให้ระยะทางประมาณ 31% ใหญ่เกินไปในทิศทางตะวันออก - ตะวันตก (เห็นได้ชัดในพล็อตเส้นโครงด้านบนขวาสำหรับจุดกำเนิดที่ละติจูด -40 องศาซึ่งพื้นที่ทางตะวันออก - ตะวันตกทันทีของจุดสีแดงอยู่ระหว่าง 1.2 และ 1.5 เส้นโค้ง) ระยะทางสั้น ๆ ในทิศทางอื่นทั้งหมดจะเป็น ใหญ่เกินไประหว่าง 0% ถึง 31%; ระยะทางไกลกว่าอาจผิดพลาดได้มากกว่าเดิม (ดังแสดงในแผนผังเส้นชั้นความสูง)
