Mithilfe eines Potis und einer kleinen Programmroutine habe ich den Stepper nun dazu bekommen, dass er einmal voll ausschlägt, auf Null zurückfährt und die Stellung des Potis einnimmt.
Da hast Du ja schon bemerkenswert viel in kurzer Zeit geschafft.

Bezüglich Zucken: wenn es nur einen Stepperschritt hin- und hergeht, dann wäre das nicht ungewöhnlich. So wie Du es beschreibst, ist es mehr als nur ein Stepperschritt. Das könnte auch eine schwankende Versorgungsspannung sein, (demzufolge eine schwankende Referenzspannung), auch am Eingangspin des ADC sollte eine kleine Kapazität nach Masse hin, wenn das Poti hochohmig ist. Ich glaube dazu steht auch etwas im Datenblatt des ATtiny. Ein Schaltplan Deines jetzigen Aufbaus wäre auch hilfreich. Normalerweise sollte es ohne Zucken gehen.

Wenn man will (ich denke man wird wollen) kann man auch softwaremäßig filtern, üblicherweise mittels gleitender Mittelwertbildung. Dazu gab es hier im Forum auch schon ein paar threads, bemühe mal die Suche nach diesem Stichwort, es ist recht einfach in Programmcode umzusetzen.