Wenn da 10 V zwischen den "massen liegen" kann da keine richtige Verbindung sein.

Nochmal zum klarstellen: Auf die Masseverbindung kann man nur verzichten, wenn die Masse schon über die gemeinsam genutzte Spannungsversorgung verbunden sind. Die Gemeinsame Versorgungs heißt hier in der Regel der selbe Trafo bzw. Akku. Nur weil beide mal 5 V benutzt werden, muß da noch keine Verbindung sein.
Bei fehlender Masseverbindung können über das Signal durchaus Spannungen von etwas 10 V zustandekommen. Das Messgerät wird hochohmiger als die Signaleingänge sein.
Was wird denn gemessen wenn auch die Signale (TX,RX) nicht verbunden sind ? Sonst müßte mal kurz die Schaltung beschreiben werden.

Mit elekrischen Störungen waren besonders fehlende Entkopplekondensatoren am Controller oder Regler gemeint. Auch ein aktives Handy in der Nähe kann Störungen verursachen.