wenn der Empfang (bei Selbsttest) funktioniert, und die IR-LED den Kameratest besteht, kommen eigentlich nur zwei Ursachen in Frage:
a) Im Sendeteil sind Bauteile falsch, so dass die Frequenz nicht stimmt
b) Der RS232-Port liefert nicht genügend Strom für Senden und Empfang gleichzeitig, wenn die Sendediode viel Strom zieht, setzt der Empfänger wegen Unterspannung aus.

Da bei a) aber wenigstens wirre Zeichen zurückkommen sollten, wenn die Frquenz nicht absolut falsch ist, würde ich eher zu b) tendieren. Mess mal mit nem Multimeter (oder besser noch mit nem Oszi falls vorhanden) die Spannung am Empfänger (am Pin ganz in der Ecke der Platine, Masse am mittleren Pin des Empfängers). Einmal im Ruhezustand, und einmal während der Sender läuft (leg was auf die Tastatur drauf). Wenns weniger als 4,5V sind arbeitet der Empfänger nciht richtig.

Ach, während ich heir schreibe, fällt mir noch c) ein:
Welches Terminalprogramm benutzt du für den Test? In manchen Programmen muss man die Leitungen, die die Stromversorgung betreitstellen, erst manuell aktiveren... sonst ist nicht genügend Strom verfügbar.