Wozu ist der 100µF Elko auf der 5V-Seite des Reglers gut ?
Es gibt Regler, die mögen das gar nicht, besonders nicht ohne Diode vom Regler-Ausgang zum Regler-Eingang. Vielleicht hast Du dadurch den Regler schon geschossen.
Wenn nach dem Ausschalten auf der Eingangs-Seite des Reglers die Spannung kleiner ist, als auf der Ausgangs-Seite, wenn z.B. der 470µF schneller leer ist, als der 100µF, dann mag der Regler das überhaupt nicht.
Auf der Ausgangsseite max. 10µF, möglichst als induktionsfreien Tantal und natürlich den 100nF.
Vielleicht hat der 100µF-Elko hohen induktiven Anteil (gewickelter Elko) und der Regler schwingt trotz oder gerade wegen des 100nF ?
Also, weg mit dem Elko auf der 5V-Seite !