Zu Schritt 1.

Ich mache es jetzt so:

a11*x1 + a12*x2 + a13*x3 = b1
a21*x1 + a22*x2 + a23*x3 = b2
a31*x1 + a32*x2 + a33*x3 = b3

wird zu: A*x = b
mit A ist Matrix; x,b sind Vektoren

Die Lösung ist dann inv(A)*b = x

Aber das dürfte doch nur bei linearen Gleichungssystemen funktionieren?

Noch eine weitere Frage: Muss ich, wenn ich das tun will, z.B. R(1,1) durch
cos(phi)*cos(kappa) ersetzen? Das ist die Definition von R(1,1), dadurch würde ich doch meine Unbekannten der Rotation von 9 auf 3 reduzieren, und somit wirklich nur noch 3 Punkte benötigen, korrekt?

Gruß,
raptus93