Ich denke das sollte machbar sein, kommt natürlich auf den Umfang an. Allerdings würde ich dann in jedem Fall Mega32 nehmen (ist ja identisch hat nur mehr Speicher) weil Gleitkomma-Berechnungen einfach doch einiges mehr an Speicher benötigen.
Wenn es eng wird kann man sicher die Aufgaben auch auf zwei Controller verteilen. Wie die Aufteilung zu erfolgen hat, liegt letzlich an deiner Anwendung.
Wegen der Berechnungen würde ich dann jedoch eine Hochsprache wie Bascom Basic oder GCC empfehlen.
Das gute bei den AVR-Controllern und Hochsprachen ist, das fast alle gleich zu programmieren sind. Kommt man erst mal mit einem klar, kann man die Programme fast unverändert auch auf fast alle anderen größeren AVR´s übernehmen. So kann man sich die passendste Hardware für das jeweilige Projekt heraussuchen.