Am besten schaust Du Dir mal das Thema "Microstepping" an.
http://www.cs.uiowa.edu/~jones/step/micro.html
Man kann damit beispielsweise die Auflösung um den Faktor 100 erhöhen, also Teilschritte von 1% eines Schrittes, aber es bleibt bei normalen Schrittmotoren nur bis auf 5-10% eines Schrittes linear.

Man kann damit grundsätzlich etwas feiner ansteuern, oder sehr fein wenn die Positionskontrolle von einer Messeinheit übernommen wird.

Sonst kann man Getriebe einsetzen die natürlich bei den hohen Anforderungen alles haben müssen was es Spielfreiheit gibt.
Manfred