Nur sollte denn nicht eigentlich ohne angeschlossenen Pins von PA0 bis 7 komplett auf 0 Sein ?
Nein, wenn du an einem Eingangspin gar nichts angeschlossen hast ist das normal.

1023 ist Max das ist schon klar,aber bei nicht angelegter Spannung sollte doch alles auf 0 sein, ich bekomme aber schwankende werte zwischen 260 und 420 angezeigt.
Das liegt daran, dass deine Pins nicht an Masse (GND) angeschlossen sind, sondern "in der Luft hängen".
Du hast an deinem Controller und auf der Platine stelllen and denen 5V anliegen und Masse-Stellen mit 0V. Dazwischen ist Luft und Luft hat einen elektrischen Widerstand.
D.h. wenn dein Pin in der Luft hängt, hängt er im Printip irgendwo an einem Spannungsteiler - eigentlich dasselbe Prinzip wie du zur Messung deiner Widerstande verwenden willst
Problem ist allerdings, dass die Luft als Spanningsteiler nicht besonders konstant ist und die Spannung an deinem Pin daher schwankt. Das tut sie gerne auch mal um den Wert herum den ein digitaler Eingang als Schwellwert zwischen high und Low hat und dann flattert der Eingang was nicht besionders gut für die Schaltung und Bauteile ist.

Daher legt man digitale eingänge die nicht benutzt werden auf einen definierten Spanningspegel indem man sie entweder auf Masse legt oder über einen hochohmigen "Pullup"-Widerstand auf 5V legt.

Dein Controller hat aber interne Pullups, die du per Software aktivieren kannst.
Für Pina.7 z.B. lautet der Befehl dazu in Bascom "Pina.7 = 1".
Das solltest du für alle nicht beschalteten Eingänge machen.