Mit mehreren Encoderscheiben/Lichtschranken, leicht zueinander versetzt, kannst du die Auflösung erhöhen. Statt Papierscheiben funktionieren auch geätzte Platinenscheiben ganz gut.
Hast du keine Möglichkeit die Motorumdrehungen direkt zu messen? (Ich nehme an du misst am Getriebeausgang)

mfg