Die Idee, dass sie zum kommunizieren ganz dicht zusammen stehen sollen ist sehr gut. Dann würde es wohl nicht so viele Reflektionen geben.
Zur Hindernisserkennung kann man ja einen RIng aus IR LED nehmen (HIndernisse in allen Richtungen erkennen) und wie du sagst, zum kommunitieren, dann nur eine schwache LED mit kleinem Winkel. Sollte trotzdem etwas reflektieren wie du sagst, kann man das ja mit einer PrÜfsumme erkennen, kurz warten und noch mal senden.
Das die Roboter zum kommunizieren nah aneinander müssen ist zwar etwas Zeitverschwendung, aber sieht bestimmt lustig aus.

Vielleicht könnte man auch ein piezo Mikrofon oder Signalgeber benutzen. Aber das gedudel würde wohl nicht nur die Roboter in den Wahnsinn treiben.