Muss das kompakt sein? Gibts irgendeinen zwingenden Grund Ultraschall zu verwenden?

Wenn unbedingt Ultraschall, dann würd ich probieren mich auf die Kante zu konzentrieren, sicher nicht auf eine Änderung des Abstands. Möglichst "schleifend" einstrahlen, so dass erst die sich reindrehende Kante eine gute Reflexionsfläche bietet. Mit so handelsüblichen US-Modulen kommst aber wahrscheinlich nicht weit.

Die Grammophonnadel-Geschichte hat mich auf eine Idee gebracht: ein "Laserhebel", nenn ich das mal, wie bei einem Rasterkraftmikroskop. Ein kleiner Hebel mit einer Spitze die auf der Rolle schleift und ein Spiegel obendrauf.
Wenn die Spitze durch die Unebenheit um h angehoben wird ändert die Spiegelfläche und die Lotrechte drauf ihre Ausrichtung um den Winkel phi = h / Hebellänge. Ein auf dem Spiegel reflektierter Läserstrahl wird um 2*phi abgelenkt.
Eine zweite Hebelwirkung ergibt sich dann wenn der Abstand Spiegel zu einem Diodenarray größer als die Hebellänge ist.

Ich hab mal überschlagen: 60um ergeben 5mm Ablenkung wenn der Abstand Spiegel-Diode 40mal größer als der Hebel ist. Das ist durchaus nicht unmöglich, es sei denn es muss sehr kompakt sein. Z.b. 5mm zu 20cm.

So ein Diodenarray sind einfach mindestens 2 Photodioden dicht aneinander. Wenn der Strahl abgelenkt wird kriegt eine Diode mehr ab, die andere weniger, die Änderung in der Spannungsdifferenz kann man messen. Beziehungsweise, da die Rolle nicht perfekt rund ist, wird man eher nach schnellen Sprüngen im Signal suchen. Vielleicht müsste man das Array für starke Beulen in der Rolle nachführen.