Ich hab noch ein wenig rumgerechnet und bin dann auf folgende Zahlen gekommen.
Bei 20MHz Taktfrequenz mit einem Prescaler von 8 und einem Einstellbereich von 0..127 ( 128 Helligkeitsstufen ) kann man eine PWM Frequenz von
20 MHz / 2^15 / 8 = 76,3 Hz erreichen. Das sollte somit flimmerfrei gehen.
Es können 2048 Taktzyklen, das dürften etwa 1800 Assembler Befehle sein, abgearbeitet werden bis der nächste Interrupt auftritt.

Für deine Interruptroutine werden in etwa 100..150 Befehle draufgehen, für den Rest kann das Hauptprogramm abgearbeitet werden.

Das ist eine ganze Menge. Hochkomplexe Mathematische Gleichungen möchte ich zwar so nicht lösen, aber für einen Schnittstellenhandler sollte das mehr als locker reichen.