Versuch mal das PWM Signal nicht mit Bascom Befehlen zu initialisieren, sondern indem du die Bits in den Registern direkt setzt. Das geht auch in Bascom.
Du sagst auf der einen Seite, dass du eine variable Auflösung haben möchtest und setzt das Register, aber auf der anderen Seite initialisierst du das PWM mit 8Bit.
So wird das nicht funktionieren.
Schau einfach mal im Datenblatt in der Tabelle nach, und setzte die Bits "manuell".