Drehen die Motoren denn vernünftig, wenn du sie nicht mit den Kugelumlaufspindeln verbunden hast? (Kupplung mal lösen)

Wenn du schon gesehen hast, dass die KGS unrund liefen, kann das durchaus der Grund sein.
Dagegen spricht, dass du die Spindeln mit Motor noch gut von Hand drehen kannst.

Ich würde da mal drauf tippen, dass entweder die Ansteuerung zu schnell ist, oder die Motoren gar falsch angeschlossen sind.

Zur Rampeneinstellung: Du fängst mit sehr niedrigen Beschleunigungen und Endgeschwindigkeiten an. Dann erhöhst du die Geschwindigkeit, bis Schrittverluste auftreten.
Als max. Geschwindigkeit dann etwas weniger festlegen, und die Beschleunigung hochschrauben, bis auch hier Probleme auftreten. Auch wieder etwas Sicherheit abziehen, und fertig.
Viel mehr kann man ja nicht einstellen bei ner Schrittmotorsteuerung. (Es sei denn du könntest Decay-Modi o.ä. wählen)

Jetzt zum Netzteil: Die Spannung sollte man bei Schrittmotoren so hoch wie möglich wählen. Je höher sie ist, desto schneller können die Motoren nachher drehen.
Den Strombedarf kann man über die Leistung ausrechnen. Zum Einen muss die el. Verlustleistung genommen werden. Also 2*3A pro Motor mal 3V Nennspannung.
Dazu kommt allerdings noch die Leistung die benötigt wird, um den Motor samt angehängter Fräse zu beschleunigen. Da wird es schon deutlich aufwändiger.
Als Vereinfachung kann man die gesamte Linearbewegung vernachlässigen, da normalerweise die Drehträgheit der Spindel und des Motors überwiegt.

Zuletzt noch zur Steigung der KGS: Du nimmst einen Messschieber und misst den Abstand der Rillen. Oder du drehst die Mutter genau einmal, und schaust, wie weit sie sich bewegt hat.