Hallo Dani,
du kannst alles über einen 8bit Timer laufen lassen.
Mehr Auflösung brauchst du doch bestimmt nicht.
Wenn du die PWM mit 100Hz bei 8bit laufen lässt, musst du die ISR mit 25KHz aufrufen.
Bei 8MHz internen Takt also alle 320 Takte. Das geht doch locker.
In der ISR fragst du den DCC Pin ab und setzt die 4 Ausgänge wie gewünscht.