ein atmega8L (!) kann doch nur 8 mhz, für 16 mhz brauchst du einen atmega8 (ohne L).

das dreibeinige teil ist ein quarz mit koppelkondensatoren.

es könnte evtl schon daran liegen, dass die internen 8 mhz sehr stark (!) temperaturabhängig ist, hab mal mit nem oszi bei 10 grad etwa 7,9 und bei 40 grad 8,3 (!) mhz gemessen. das reicht schon um die serielle übertragung aus dem takt zu bringen. bei dir tippe ich aber darauf, dass es ein atmega8 ist der mit 16 mhz läuft; deshalb klappt es zwar mit kabeln bei 4800 baud, allerdings nicht mit der infrarotübertragung, denn der transceiver wertet AUSSCHLIESSLICH 36kHz-signale aus. und die sind unabhängig von der baudrate, sondern nur abhängig vom prozessortakt.