Auf dem Board ist Aref auf 2,5V gelegt. Wenn die Spannung am ADC-Eingang höher als die 2,5V ist, wird immer der Maximalwert angezeigt.
So gesehen sind die 26.xxxxV nach deiner Rechnung schon relaistisch.
Wenn du 5V über einen Widerstand an den ADC-Eingang legst, sind dort trotzdem 5V. Du musst einen Spannungsteiler machen.
Ob in deinem BASCOM-Programm ein Fehler ist, kann ich nicht sagen.