Mit einem USB-Seriell-Adapter und einem einfachen Seriell-Programmer kannst du nicht ISP-Programmieren.
Wenn du nur mehr USB hast dann besorge dir einen USB-Programmer. Hier gibt es einen sehr günstigen: www.ullihome.de/index.php/Hauptseite#USB_AVR-Lab.
Über RX/TX kannst du nur programmieren wenn du einen Bootloader auf deinen ATmega programmiert hast, dazu brauchst du aber wieder ISP.