Also ich kenne mich jetzt nicht so direkt mit dem Output deines Drehgeber s aus, aber ich denke mal der ist bei dem magnetischen ne sinusartige kurve oder ist das sogar schon digitalisiert?

naja wenns ein Sinus ist, dann würde ich in den Interruptroutinen auf jedenfall mal warten bis der Int-Pin wieder auf Low liegt, um sicherzustellen das er bei einem schlehten signal auch nur ein inc zählt, das dürfte schonmal die genauigkeit heben. Wenn du beide Spuren benutzt würde ich das eher so machen: du schaust in dem Interrupt dert als erstes kommt, ob danach die 2. spur kommt, wenn da aber vorher die selbe spur nochmal kommt kannste den puls getrost übersehen weil es ein fehler ist, das mit dem Subtrahieren und addieren hale ich für zu aufwendig, vlt tuts auch ein smith-trigger am Int-Eingang, oder ein glättungskondensator wirkt manchmal echt wunder hau mal so 10-100nF gegen Graund an die Spuren, das dürfte schon einiges bringen, war bei mir acuhmal so, weil ubder leitungen und so weiter ziehste bei Motoren schnell ordentlichen Signalmüll rein.