So ein analoger Sensor ändert seinen Ausgang nie vollkommen gleichförmig. Es ist immer ein gewisses Rauschen (auch wegen Schwankungen im Umgebungslicht) vorhanden, d.h. die Spannung steigt bei Annäherung an das nächste Scheibensegment nicht immer weiter an, sondern schwankt auch mal auf geringfügig kleinere Werte. Daher brauchst du wohl eine gewisse Hysterese.

Ich habe mittlerweile ganz gute Erfahrungen mit einem 74HC14 Schmitttrigger am CNY gemacht. Der dürfte das Problem nicht haben...

Aber auch deiner OP-Schaltung kannst du mit zwei zusätzlichen Widerständen eine Hysterese verpassen:
http://www.elektronik-kompendium.de/...lt/0311271.htm