Hallo,

Ich werde also mal in diesen Petrahn reinschauen...

Den hatte ich nicht verlinkt?!

Ich bin mir nicht sicher, ob eine Formelsammlung zielführend ist. Mit etwas Abstraktion könnte auch ein Buch über Numerik hilfreich sein. Zahlen lassen sich nur mit begrenzter Stellenanzahl speichern und es kommt zu Stellenverlust - Stichwort: Pivotisierung bei Matrizen. Das ist ggf. nicht mehr so anschaulich wie das von Dir benannte geometrische Problem, ist aber mMn. ähnlich gelagert - Bestimmte Konfigurationen führen zu schlechteren bis unbrauchbaren Ergebnissen, obwohl wie mathematisch exakt lösbar sind in der Theorie.

Gruß Micha

--
applied-geodesy.org - OpenSource Least-Squares Adjustment Software for Geodetic Sciences

Tags:
Schleifender Schnitt, Numerik, Definition