Wie schon erwähnt ist für twisted Pair Leitungen eine Symmetrische Datenübertragung am besten geeignet. Für RS485 braucht man typischer Weise nur ein verdrilltes Leitungspaar (Halfduplex) dabei wird auf beiden Seiten je zwischen Sende- und Empfangsbetrien hin und her geschaltet.
Die Fullduplex Variante mit separaten RX / TX Leitungspaaren gibt es auch als RS485 Standard, ist jedoch typisch für RS422.
Ich bin mir nicht ganz sicher wie dein Video Balun aufgebaut ist, dass dieser so störanfällig ist. Womöglich arbeitet dieser nicht richtig symmetrisch.

Im aktuellen ELV Journal ist ein Symmetrischer Videoübertrager vorgestellt worden. Dieser ist derzeit noch nicht lieferbar.
http://www.elv.de/output/controller....&detail2=24374
Dieses Set verwendet den MAX9546 als TX und MAX9547 als RX.
Die Schaltung ist nicht sehr Umfangreich. Schau dir mal die Datenblätter an.