Nö, so kann das nicht gehen. RAND_MAX ist ein #define in der stdlib.h! Das ist vorgegeben durch den rand-Algorithmus.

Wenn du RAMEND umdefinierst bekommt dein AVR ja auch net mehr Speicher

Möglich wäre so was:

x = rand() % 6; // modulo n liefert Werte 0...n-1


::EDIT::

Und sich ne seed auf die Art zu besorgen geht zwar, aber es ist wohl immer die gleiche, falls Timer0 nicht von externen Signalen abhängt (Tastendruck, Takt, etc)