Bei der Auswertung des Summensignals ist mir nicht klar warum du da so große Zahlen hast. Vor allem müsste max doch etwa doppelt so groß sein wie min?! Schließlich bewegen sich die Signale zwsichen 1 und 2 ms. Oder ist das die Zeit seit dem 1. Kanal?
Vermutlich kann dir da ein blick in Willas Tricopter Sourcen gut weiterhelfen. Der programmiert auch in Bascom und verwendet auch einen Atmel MC.
http://shrediquette.blogspot.com/

Ich hab bei mir die Auswertung des Summensignals inzwischen durch ne serielle Schnittstelle ersetzt. Die ACT Empfänger (du hast ja auch einen) haben diese DSL Schnittstelle das ist nix anderes. Dafür kann ich dir wenn du magst auch code geben. Ist aber in C.

Den gleichen 2 achs Gyro wie du verwende ich auch. Wie gesagt hab ich probleme mit Schwingungen weil der wohl recht kleine Resonanzfrequnzen verwendet. Das hab ich mit ner ziehmlich rechenintensiven digitalen Filterung einigermaßen in Griff bekommen. Man sieht ihn trotzdem noch zappeln.. deswegen der Plan mit den ITG-3200 Gyro.
Aber vielleicht ist dein Rahmen schwingungsmäßig besser und es klappt bei dir einfach..