Warum schreibst du nicht einfach einen 3-zeiler: Addiere / subtrahiere r16 / r17 und testest das im AVR Studio mit verschiedenen Werten, die man ja direkt in die Register schreiben kann (sogar in dezimal) und siehst dir dabei das Carry Flag an, ob eventuell ein Übertrag stattgefunden hat (carry set).
Ein paar simple Beispiele in dezimal: 7+2=9 (Carry clear (CC))
7+4=1 (Carry set (CS)) Übertrag hat stattgefunden; 9-5=4(CC) oder
9-12=3 (CS).
Wenn du, wie Besserwessi vermutet, einen Compiler verwendest, dann solltest du mal den original code hier reinstellen.