Das mit der Pinbelegung habe ich schon gesehen, ist etwas eigenwillig und irreführend bei dir im Schaltplan.
Wie du den internen Oszillator auf 16MHz genau bringst, musst du mir erklären. Am STK ist auch der interne Oszillator aktiv? Fuseeinstellung?
Ohne Quarz wirst du nur mit viel Glück etwas vernünftiges zusammenbringen. Am besten verwendest du einen Baudratenquarz.
Wenn das Echo wie beschrieben funktioniert, dann weisst du das der Fehler im µC liegen muss. Der 232, Stecker und Kabel funktionieren, nichts vertauscht.