Wenn Du die Markierungen im Bild findest (z.B. nach einer Binarisierung ist nur noch die Markierung im Bild zu sehen) könntest Du erst die Verschiebung kompensieren (z.B. mit Schwerpunktbestimmung und umschließendem, schwerpuntkzentrierten Rechteck).

Danach kannst Du per Bestimmung des Flächenträgheitsmoments oder per Karhounen-Loéve-Transformation die Rotation bestimmen (da sollte eine Verzerrung in der z-Achse eigentlich keinen Einfluss haben, musst Du aber testen).