Die Erlösung!
Durch Zufall bin ich jetzt gerade drauf gekommen, dass man sämtliche externe Beschaltung weglassen muss. Hört sich komisch an, ist aber so. Im DB steht der Hinweis externe 2,2kOhm Widerstände an die beiden Phasenausgänge zu hängen. Hatte ich natürlich brav gemacht. Weiterhin hatte ich jeweils einen 100nF-Kondensator vom Phasenausgang gegen GND gehängt, wie mir das Izaseba erklärt hat. Lässt man diesen ganzen Schnickschnack weg, geht's auf einmal wunderbar! Es prellt nix und ich freu mich, dass alles funktioniert. Es sind jetzt nur die internen AVR-Pull-Ups eingeschaltet.
Das Einzige, was mich noch stört, ist, dass der Drehgeber nur alle 4 Positionen ein Signal abgibt. Ist das nur bei meinem Modell so (s. DB, wo drin steht, dass sich das Bitmuster alle 4 Positionen wiederholt) oder ist das bei Euren Encodern auch so? Kann man da Softwareseitig noch was machen? Wenn die Dinger bei Euch jede Raste ein Signal geben, dann würde ich mir überlegen, längerfristig einen neuen zu kaufen, weil das jetzige Drehgefühl einfach etwas "schwammig" ist.

Ansonsten könnte ich jetzt mit dem Programmieren des Menüs anfangen. Wie zieht man sowas auf? Wie oben beschrieben, möchte ich ein Hauptmenü haben, in welchem man dann per Drehgeber einen Menüpunkt anwählen kann. In das Untermenü kommt man dann per Druck auf den Drehgeber. Wenn man dann dort seine Einstellung getätigt hat, dann verlässt man das Untermenü wieder mit einem weiteren Klick auf den Drehgeber (suzusagen "OK"-Funktion) und landet wieder im Hauptmenü. Schön wäre es, das ganze möglichst modular aufzubauen, um schnell mal einen Menüeintrag oder auch einen Unteruntermenüpunkt (also schon relativ verschachtelt) einbaun zu können.
Das ganze könnte dann so aussehen:
Code:
   1. Menüeintrag
   2. Menüeintrag
>> 3. Menüeintrag, der gerade angewählt ist
   4. Menüeintrag
Nachdem die Hardware ja jetzt läuft, dürfen sich jetzt auch die Software-Helden hieran die Zähne ausbeißen

Vielen Dank nochmal für Eure Hilfe, Manni

PS: Jetzt habe ich die Drehgeber auch endlich beim Reichelt gefunden. Die sind dort unter "Drehencoder" gelistet. Wobei meine hier gegen Reichelts 10€-Teile wohl echte Schnäppchen sind...