Ich glaube du hast da ein Verständnissproblem. Wenn du im Bascom einen Wert von 300 einstellst zählt das Programm das ADC L-Register bis 255 voll. Sobald dieses voll ist wird es auf 0 zurück gesetzt und das ADC H-Register wird um eins erhöht. Nun hast du einen Rest von 300-255 = 45.
D.h. du hast den Registerinhalt von ADC L = 45 und ADC H = 1
Wenn du jetzt ein Beispiel wie deine 511 hast dann geht das ganz glatt auf d.h. es wird bis 255 gezählt dann wird das H Register um eins erhöht dann bleibt noch ein Rest von 255 über und sobald das L Register wieder voll ist wird H auf 2 gesetzt.
Also hast du bei einem Wert von 511 L = 0 und H = 2
Sobald du das dann wieder umrechnest also Zahl = (L + (255 x H)) + 1 dann kommt bei:
Zahl = (0 + (255 x 2)) +1
Zahl = 511