Den genauen Grund für diese Peaks kann ich Dir nicht nennen. Ich denke mal, dass der Controller zwischenzeitlich beim Vergleichen von TCNT und OCR einfach mal zu langsam ist und dadurch bis 1 zählt bevor der Überlauf erkannt wird. Bei 100% wird das ähnlich sein.

Als Lösung würde ich Dir vorschlagen, die Werte 0% und 100% als Ausnahme abzufangen und in diesen Fällen den PWM-Ausgang einfach als normalen Port zu schalten.

Gruß,
askazo