Ich untersuche verschiedene Parametrisierungen auf Konvergenz. Quaternionen sind auch dabei, aber bei denen besteht dieses Problem nicht. Kardanwinkel werden auch verwendet obwohl sie Singularitäten aufweisen (die sich allerdings anders ausdrücken). Außerdem scheint diese Singularität der Cayley-Parameter nicht so schlimm zu sein, weil sie näherungsweise erricht werden kann, wenn auch nicht bis auf die letzte Kommastelle genau, was bei der heutigen Rechenschärfe fast keine rolle mehr spielt.

Eine Drehung um Null ist möglich, nur Drehungen um 180 Grad sind nicht möglich (die Einheitsmatrix stellt einen Sonderfall dar) so wie es auch in der Referenz von Walraff steht (Seite 9 die letzten Zeilen und folgende)
@ michael
Die von dir verlinke Rotationsmatrix nennt man glaube ich schiefsymmetrisch.
Mit asymmetrisch meine ich folgendes.

[ 0 0 1
0.866 0.5 0
0.5 0.866 0]

Diese Rotationsmatrix lässt sich problemlos mit Cayley-Parametern darstellen. Wenn die gesuchte Rotationsmatrix so ausschaut Konvergiert das Verfahren einfach nicht dabei ist es fast egal von welchen Startwert während es bei Symmetrischen Rotationsmatrizen von fast jedem Startwert zur Zielmatrix konvergiert.

MFG