Ausgehend von einem handelsüblichen Rollbandmaß könnte man an der Achse einen Drehwinkelsensor anbringen. Störend für die Auswerung ist, daß der wirksame Radius des Wickels abhängig vom Auszug ist (weil die einzelnen Lagen des Maßbands übereinander gewickelt werden).
Allerdings kann man so etwas ja bei der Auswertung berücksichtigen.

Alternativ könnte man versuchen, die aufgedruckte Millimeterskala optisch als Quadratursignal auszuwerten. Dann kann man sich eine höhere Genauigkeit erwarten, ist aber zum Basteln etwas komplizierter.

Wegen Deiner Sorge, daß sich das Band beim Auszug verkantet: Wenn man die Rolle an einer kurzen Kette oder Schnur anbindet, kann sie sich in Zugrichtung ausrichten.