Das hängt davon ab, wieviele Pixel Du verarbeiten willst. Für einfache Sachen kommst Du wahrscheinlich mit einem Mega168 (statt dem Mega schon ein bisschen besser hin (die haben, IIRC, ein identisches Pinout), aber 1K Speicher sind nicht viel.

Ansonsten geht eher einer der AVRs mit externem Speicher, wie der 162 oder 128, wobei es den 128 nur in SMD Ausführung gibt. Da ist man mit weniger Löterfahrung mit einem Adapterboard für den 128 besser beraten, was dann aber auch wieder teurer ist.

Mit den bei den beiden letzteren AVRs möglichen 64k externem Speicher kann man schon einiges anfangen.