Ich hab man kurz ins Datenblatt geschaut.
Der USART hat hier insgesamt 13 Register - Sind die auch alle richtig befüllt?
Soweit Ich das verstehe sind auch 3 unterschiedliche Taktquellen möglich.

Ausgehend von den "alten" Tiny Controllern würde ich vermuten, das der USART mit dem Prozessortakt läuft.
Wenn Du ein Oszilloskop hast, könntest Du ja mal gucken, welche Bitlänge Du hast - Dann sollte das eindeutig sein.
Das Startbit ist ja eigentlich immer 0 und sollte sich so detektieren lassen. Mit dem Bitmuster 0xAA sollte dann auch ein ständiger Wechsel zwischen 0 und 1 detektierbar sein.