Miss mal die Spannung am Reset. Wenn Du den Programmiermodus startest muss der Pegel von 5V auf 0V fallen. Ist das nicht so hat Deine Schaltung einen Fehler oder Du hast keinen Pullup am Reset-Pin des Mega16 (10kOhm genügen).