Ich habe erst jetzt den Schaltplan und das layout gesehen. Da ist ja nur ein Entkopplekondensator drauf, und auch der scheint nicht gerade dicht am IC zu sein. Eventuell kann man noch ein paar als SMD ( Größe 0603 oder 0805) nachbestücken. Es könnte sein das die Versorgung einfach zu schlecht ist für den vollen Takt.

Schon die Reset Leitung zum ISP Stecker ist recht lang, da sollte man eventuell mal einen kleinen Kondesator nach GND vorsehen, damit man sich nicht Störungen einfängt.