Im Datenblatt wird eine Reaktionszeit von 10µs versprochen, was 100kHz entspricht. Sollte also reichen. Ich kann aber leider nicht überprüfen wie sehr die Signale verschliffen werden, daher habe ich ja auch einen Schmitt-Trigger dahinter geschaltet. Die Hysterese sollte die Signale wieder verbessern.
Hierzu noch ein paar schnelle Gedanken:

Bei der Berechnung der maximalen Frequenz verwechselst Du Anstiegszeit und Periodendauer. Fig. 7 und 10 des Datenblatts geben eine genauere Einsicht in die Anstiegszeit. Es ist also problemlos möglich Anstiegszeiten von deutlich über 100 us zu erreichen. Das Ganze wurde ohne kapazitive Last gemessen, diese ist in der Realität immer vorhanden, es könnte also doch kritisch werden.

Noch eine Überlegung zur Gleichspannungsanpassung des Fototransistors zum nachgeschalteten Schmitttrigger:
Bei höheren Frequenzen wird die Ausgangsspannung des Fototransistors - bedingt durch die endliche Anstiegszeit - erst trapezförmig, dann dreieckig, und mit zunehmender Frequenz nimmt die Amplitude des Dreiecks ab.
Durch die abnehmende Amplitude könnte es passieren, daß die Wechselspannung irgendwann nicht mehr die beiden Schaltschwellen des Schmitttriggers überstreicht.
Theoretisch sollte man dadurch einen schlagartigen Ausfall der entsprechenden Lichtschranke erwarten, in der Praxis werden (z.B. wegen mechanischer Toleranzen) immer erst einzelne Flanken verloren.

Kommen zwei Flanken dicht hintereinander, so wird bei der ersten, die ISR angestoßen und bei der zweiten der Interrupt zwar gesetzt, aber erst im Anschluss an die erste ISR bearbeitet. Dann liegen die Signale ja immer noch an und sollten daher auch richtig verarbeitet werden. Der dritte Interrupt kommt wieder ganz normal.
Da hast Du recht, ich hatte nicht bedacht, dass man Interruptroutinen verschachteln kann.