So schlecht sieht das gar nicht aus. Die Stromversorgung sollte soweit OK sein. Die Pin AVCC und AGND hat du aber schon versorgt? Sonst hast du Probleme mit dem Port C. Die Diode D2 hast du aber direkt am Relais? sonst nutzt sie nicht sehr viel.
Die C1 und C3 sind so nahe wie möglich beim Spannungsregler, ein 100n direkt am Kontroller VCC-GND sollte auch noch sein