Du könntest ja auch an einer Seite des Ringes einen "Strichcode" also Schwarze und weise Felder oder Linien anbringen, die deiner Auflösung entsprechen.

Dann würde ich mir zwei PS/2 Mäuse (für jede Achse eine) kaufen (Optische mit ca. 1200 dpi Auflösung) diese zerlegen und an den µC hängen.
Die Mausoptick kannst du ja an deiner Kugel fixieren damit sie den Strichcode abtasten können.
Eine optische Maus reagiert ja eigentlich nicht nur auf Schwarz/Weiss-Übergänge, oder funktioniert deine Maus nur auf einem karierten Mousepad?

Ich glaube das würde eher mit den Gabellichtschranken aus einer mechanischen Maus funtionieren, wobei es da vermutlich billiger wäre die Gabellichtschranken einzeln zu kaufen.