Glättungskondensator brauchst du schon, da die Spannung beim 0-Durchgang bis auf 0V abfällt.
Wie groß dieser zusätzlich sein muss hängt von dem vorhandenen vor dem Spannungsregler ab. So etwa 100µ sollte es aber schon sein, sonst kann es passieren das du auf den 5V einen Ripple hast.