Warum machst Du es nicht ganz simpel mit dem Bascom-Befehl RC5SEND? Der erzeugt die 36kHz-Trägerfrequenz automatisch und gibt das fertig modulierte Signal (Togglebit, Address und Command) am OC1A-Pin aus.
Ist zwar nicht ganz so "sportlich" wie selbst programmiert, funktioniert aber zumindestens bei mir einwandfrei...