Zuerst solltest du mal eine normale direkte Verbindung fehlerfrei zum Funktionieren bringen, bevor du anfängst diese Verbindung über ein weiteres Medium zu führen.

Code:
UCSR0C &= ~(1<<UMSEL00)&(1<<UMSEL01);
Diese Zeile ist Unsinn und stellt den UART auf 5 Bit ein.