Ok also folgende Ergebnisse hat mein aktueller Test gebracht:

Schaltung am Taster:
PB0 --> 1k Ohm --> Taster --> GND

Programm:
Vor der Schleife lass ich die Grüne LED am PD7 ein paar mal blinken.
Habe das Ganze jetzt mal ohne Taster versucht, also den "Taster" durch ein und ausstecken eines Kabels simuliert.
Nachdem ich hier schon interessante Ergebnisse erzielt habe, hab ich den richtigen Taster wieder angeschlossen.

So, wie lauft das ganze jetzt ab?
Also beim Drücken des Tasters (für ca. gefühlte 0.5 Sekunden, kürzer hat absolut keinen Effekt) geht nach ca einer Sekunde "Wartezeit" die LED für ca 1 Sek. aus, danach wieder an, so wie gewünscht!

Also das Problem ist damit ja ziemlich behoben.
Jetzt stellen sich mir noch ein Paar Verständnisfragen:
1.) Hubert.G meinte ja, das Ganze sollte garnicht funktionieren wenn der Taster am GND hängt. Warum denn nicht? Bzw. warum funktioniert es trotzdem?
2.) Woher kommt die Verzögerung zwischen Tastendruck und Schalten der LED? Kommt die aus einer "Rechenzeit" im µC? Kann man die iwie minimieren? Wenn das in weiterer Folge in meinem Roboter verbaut werden soll wären diese Wartezeiten zwar auch nicht so dramatisch, aber man könnte sie ja auch minimieren.

Danke für die vorläufigen Erfolge auf jeden Fall einmal.