In das UBRR-Register gehört der Wert aus der Tabelle im Datenblatt geladen, abhängig von der Quarzfrequenz.
Nur RX und TX verbinden kommt mir etwas komisch vor.
Hast du in deinem Terminalprogramm auch zwei Stopbit drinnen?