Die Signale sehen nicht so schlecht aus. Das sollte der AVR noch als Signal erkennen können. Der gelbe Kanal hat wohl ein etwas schwächeres Signal. Das könnt z.B. an der Ausrichtung der LED liegen.

Beim Programm ist noch ein Fehler drin: es muss durch die Zahl der Timerüberläufe dividiert werden, und mit 61,... multipliziert - nicht anders herum. Anhängig davon wie oft die Routine aufgerufen wird muss man noch aufpassen das man keine Überläufe bekommt, oder bei sehr schnellem Aufruf den Fall 0/0 bekommt. Gegen das Problem mit zu häufigem Aufruf könnte es etwas helfen, wenn man das Zurücksetzen der Zähler nur macht wenn die Zeit größer als etwa 0,5 s war. Je nach Anwendung wäre zu überlegen eine andere Einheit als Umdrehungen pro Sekunde zu nutzen. Das gibt für die Räder nämlich wohl eher kleine Zahlen und damit ggf. Rundungsprobleme. Ggf. könnte man die beiden Faktoren 8 und 61,... auch noch gleich zusammenfassen: also nicht erst / 8 und dann mal 61,... sondern gleich nur mit 7,6.... multiplizieren.