Rein aus Neugier habe ich mal Deine Frage gelesen. Ein Gedanke kam mir sogleich, der allerdings die (positive) Beantwortung einer/zweier Frage voraussetzt:

Konvergiert Dein System überhaupt nicht? Nicht wenigstens einen Iterationsschritt?

Es gibt da verschiedene Quellen des Ärgers die mir dazu einfallen:

- die Beträge des Modellvektors streuen über mehrere Dekaden
- die Beträge des Datenvektors (Messwerte) streuen über mehrere Dekaden

und natürlich die Singularitäten, die schon erwähnt wurden. Dazu folgendes - auch ich hatte ein solches Problem zu lösen und habe es zuverlässig mathematisch in den Griff bekommen indem ich

1) eine Regularisierung ()
2) eine Schrittweitenbegrenzung ()

eingeführt habe. Das zur Iteration verwendete Gleichungssystem hat(te) dann die Struktur

wobei

... Jacobimatrix = Matrix der ersten Ableitungen (Linearisierungen)
... Vorwärtsoperator , angewandt auf = Berechnung mit Näherungswerten
... Modellvektor = Vektor der Parameter
... Einheitsmatrix

Die Theorie dazu ist ein wenig komplizierter, aber vielleicht löst die vorgeschlagene Iteration ja Dein akkutes Problem.

Zunächst würde ich eine Schrittweitenbegrenzung mit (oder kleiner) testen und sehen, ob es dann mindestens einen Schritt weit konvergiert...

Viele Grüße

Thomas