Der Widerstand wäre eine Möglichkeit das zu viel an Spannung nicht am regler, sondern dafür an einem extra Widerstand in Wärme umzuwandeln. Wenn man den Weg mit dem Widerstand geht muß der Elko größer werden 220 -1000 µF sollten dann ungefähr richtig sein. Der Widerstand muss so bemessen sein, das bei maximalem Strom die Spannung gerade noch ausreicht. Die 12 V vom Trafo würden rund 15 V an einem Elko direkt dahinter geben. Man hat also gut 5 V zu viel die besser am Widerstand abfallen sollten. Bei maximal 300 mA wären das dann rund 16 Ohm und 1,5 W. Da der Strom vom Gleichreichter nicht gleichmäßig fließt sollte der Widerstand eher kleiner (z.B. 10 Ohm) sein, es ist halt schwierig den Widerstand so direkt zu berechenen. Wenn man das genauer haben will würde ich eine Simulation, z.B. mit LTspice empfehlen.
Ganz ohne Kühlkörper wird man trotzdem kaum auskommen.
Einfacher als ein Widerstand wäre es wenn der Trafo nur etwa 9 V geben würde.

Wenn man einen Schaltregler nimmt, braucht man den Widerstand nicht. Dann sollten auch die 100 µF schon ausreichen, zumindestens wenn das ein hochwertiger Elko ist. Sonst eventuell noch mal 100 µF dazu. Das Problem ist weniger die Kapatzität, sondern die Strombelastbarkeit des Elkos.