Das:

Dann musst Du noch /var/uupc bzw. /var/spool/uupc anlegen und Dich selbst in die uupc Gruppe hinzufügen - das nur damit der RP6Loader auch auf den Seriellen Port zugreifen kann. Oh und den RP6Loader musst Du mit Admin Rechten ausführen.
hast Du gemacht, ja? Weil steht ja da "port in use".
Läuft irgendwas anderes was auf die serielle zugreifen könnte?
Bei Ubuntu Linux muss man z.B. das Paket brltty (braille displays) deinstallieren weil sich das die Ports automatisch unter den Nagel reisst.

Das RXTXcomm.jar ist unabhängig davon obs 64 oder 32 Bit ist - Du musst nur das von der richtigen RXTX Version verwenden.
http://rxtx.qbang.org/pub/rxtx/rxtx-2.2pre2-bins.zip