Wow, großes Projekt . Aus diesem Grund würd ich dir empfehlen, es langsam, Stück für Stück anzugehen und dich nicht in Kleinigkeiten (wie den Armen zum Beispiel) zu verhedern. Dafür ist auch noch Zeit, wenn das Grundsystem schon funktioniert.

bei den RN-Mega128Funk sind ja 53 programierbare pins forhanden, kann man diese auch so programmieren das ein pin PWM signale sendet und ein anderer DIR um mit H-Brücken die Getriebemotoren anzusteuern?
Hum, also, wenn es ein PIC sein würde (kenn den Mega128 net), geht das 100%. Und in so viel unterscheiden sich die Controller auch wieder nicht (zumindest das, was die Peripherien angeht ). Schlimmstenfalls kannst du dir auch noch selber per Software PWM-Signale generieren, wenn dir die internen Generatoren (beim PIC 2 Stück) nicht reichen. Und die Direction-Pins sind einfache outputs.

wie kann man das board erweitern?
Ganz einfach über das IIC (I²C) Protokoll. D.h. du kannst auch selber gebaute Boards an einen RN-Board anschließen, wenn dieser IIC unterstützt (was die meisten "größeren" µC tun, ansonsten wieder per Software emulieren) und du die Steckerbelegung nach RN-Standard gestaltest.

oder sollte ich lieber 2 boards parallel laufen lassen also kombinieren?
Also ich weiß nicht, wie sehr die hiesigen User auf Modulation stehen, also darauf, die Hauptaufgabe in so "kleine" Portionen wie möglich (von der Gledbörse verträglich) zu zerteilen, wie möglich und diesen dann von vielen, aber halt leistungsschwächeren (=billigeren) µC zu übernehmen. So könnte es in deinem Beispiel ein Board als Master/Hirn fungieren, der nichts anderes zu tun hat, als die Daten von dem Sensor-Modul zu verarbeiten und dann der Motortreiber-Platine zu "sagen", was er machen soll. Der große Vorteil ist halt, du kannst jederzeit ein Modul ausbauen und anderswo einsetzten, bzw. wenn neue Module reinkommen, musst du nur den "Master" neu proggen. Nachteil ist halt der Mehraufwand und die Gewissheit, dass es 100% beim ersten Mal nicht funktionieren wird und ohne ein ausgeklügeltes Protokoll geht das leider nicht. Ist halt wieder ein Punkt, der seine Vor- wie auch Nachteile hat.

und meine letzte und wichtigste frage ist wo ich mich schlaulesen kann und mehr über sowas lerne?
http://www.elektronik-kompendium.de/
http://www.mikrocontroller.net/forum/ viele Infos über Amtel-µC unter Atrikel und natürlich Unmegnen an Fragen-Antworten
Und wenn du sehr masochistisch veranlagt bist Skripten verschiedenster Universitäten, sowohl auf Deutsch, wie auch auf Englisch erhälltlich .

kabel.......150m min .... videosignal......steuerung ...so ein sch#####!
150 Meter... Was für ein Protokoll benutzt du? Weil in den RS-232 Specs ist die maximale Kabellänge mit 50 Metern bei der Verwendung von kapazitätsarmen Kabeln schluss. Solltest du es noch nicht benutzten, würde ich dir bei solchen Kabellängen zu RS-485 mit der man, wenn man einen Treiber benutzt (um den man sowieso nicht herumkommt) eine maximale Kabellänge von 500Metern hast.
Und du übertragst das Videosignal nicht digitalisiert, oder? Naja, vielleicht hilft es ja was, wenn du die beiden Kabel voneinander Abschirmst...

Wünsch dir viel Glük bei deinem Projekt und noch ein Spruch von unserem Lektor: "Die Zeit die du bei der Planung sparst, wirst du dreimal so lange bei der Fehlersuche verbrauchen."
MfG
Mobius