Das mit dem Vorwiderstand zum Schutz des Poti ist überhaupt kein Problem: Der Poti wird als Spannungsteiler geschaltet: die Ende an GND und AVCC und der Schleifer an den AD Eingang, wenn mit will noch mit etwa 1-10 K als Serienwiderstand als Schutz falls man im Programm versehentlich den Pin als Ausgang stellt.
Mit einem normalen Poti kann man aber kaum mehr als etwa 50 Werte auslösen, schon rein mechanisch wird das schwer. Der AD Wandler könnte auch noch etwas mehr und würde für die 360 Werte reichen. Mögliche Lösungen für das Problem wären eine nichtlineare Teilung am Poti (braucht aber eine umständliche Beschriftung) oder ein zusätzlicher Schalter / Stufenschalter dazu.

So kompliziert ist das mit dem Inkrementalgeber auch nicht. Es ist allerdings eher nicht nötig den Code in ASM zu schreiben. Das kann man auch in einer Hochsprache wie C oder Basic machen.