Ich bin sicher kein Spezialist für Schrittmotoren, habe in der Vergangenheit aber auch schon solche Probleme gehabt (mit qualitativ hochwertigen Motoren). Ich erkläre es mir so:
Stellt man sich einen stehenden Schrittmotor mit beliebiger Bestromung vor, dann steht der Läufer - sofern er kein Moment abgibt - genau auf dem Sollwinkel der zu der Bestromung passt. Bringt man von außen ein Moment auf, dann verdreht sich der Läufer geringfügig. Läßt man dann los, wird er eine gedämpfte Schwingung um den Sollwinkel ausführen, ähnlich wie ein Federpendel, nur dass hier die elastische Feder durch Magnetkraft ersetzt ist. Die Frequenz dieser Schwingung hängt vom Schwungmoment des Läufers und den magnetischen Rückstellkräften ab, ist also mehr oder weniger bauartbedingt, also eine Eigenfrequenz des Motors.
Wird der Motor im Betrieb (speziell mit wenig mechanischer Reibung) elektrisch mit der Eigenfrequenz (oder einer Frequenz mit Anteilen der Eigenfrequenz, also z.B. einer Vielfachen, einem Bruchteil) bestromt, dann wird die oben erwähnte Schwingung um den Sollwinkel elektrisch angeregt. Wenn wenig Reibung da ist um die Schwingung zu dämpfen dann wird sie sich schnell soweit aufschaukeln bis ein Schrittverlust eintritt.
Die von Dir geplanten mechanischen Maßnahmen halte ich für richtig. Elektrisch kann man noch versuchen möglichst sinusförmig (also Mikroschritt) anzusteuern, das macht der Treiber aber schon, soweit ich es gesehen habe. Möglicherweise könnte man elektrisch noch versuchen bestimmte Frequenzen zu unterdrücken (z.B. durch Frequenzfilter), aber ob das Stand der Technik ist, weiss ich nicht.