Ein Tip:

ldi r17, 0b11000111 ; Einstellungen und Start für ADC
out ADCSRA, r17 ; ADC einstellen
ldi r17, 0b01100000 ; Referenzspannung Vcc einstellen
Lass es sein mit den Bitmasken, so kann es kein Mensch lesen und ich persönlich weigere mich extra im Dattenblatt nachzuschauen, was Du da einstellst.
Man muß im Assembler nicht so kompliziert denken !

Einfacher ist es z.B.
ldi tmp,(1<<PD0)|(1<<PD1)|(1<<PD2)
out PORTD,tmp
Am sonsten kannst Du Dir Deine ADC Werte über UART ausgeben lassen,
damit weißt Du schonmal welcher Wert in etwa für welche Taste zuständig ist.

Schau mal
hier

Ich hab da sowas für den Asuro geschrieben, müßte sich ziemlich einfach für RN-Controll umschreiben lassen

Gruß Sebastian