Also ich weiss nicht wie du darauf kommst das bei diesem ISP-Adapter was in RS232 gewandelt wird. Das hat ganz und garnichts mit RS232 zu tun. Auch der Ausdruck "moduliert" ist hier ganz falsch!
Die Atmel Controller (Mega8, Mega16, Mega 32, Mega128 usw.) werden über ein SPI-Interface programmiert. Der abgebildete ISP Adapter ist der am meisten eingesetzte, sie sorgt nur für eine gewisse Pegelsicherheit bei den notwendigen Ports. Der SPI-Bus wird dann vom PC quasi per Software erstellt.

Es gibt auch Schaltungen wo man Ports an der RS232 verwendet, allerdings werden die nicht so häufig eingesetzt.