Da irrst Du Dich: der UART Baud Raten Generator erlaubt das Teilen des Systemtaktes durch (fast beliebige) ganze Zahlen.
Ja, das Ergebnis der Teilung ist aber nicht die Baudrate selber, sondern das 16-fache der Baudrate (oder das 8-fache bei Nutzung von U2Xn). D.h. wenn sich der Takt ganzzahlig auf die Baudrate teilen lässt (wie bei 12 MHz : 26 = 461538 Hz), nützt dir das nichts. Der Takt muss sich ganzzahlig auf das 16-fache (oder halt 8-fache) der Baudrate teilen lassen.

PS: Warum ist das so? Weil der UART ein einzelnes Bit 16 mal abtastet (oder eben 8 mal, wenn U2Xn gesetzt ist).