Hallo platinenbeli,
Zum Sense Widerstand gibt es glaube ich einen Artikel im Wiki, oder zumindest eine Beschreibung.

Du solltest den Sense Widerstand nicht zu groß machen, da der gesamte Strom des Schrittmotors erst durch den Widerstand muss.
Nach U = R * I würden bei 6 A und 2 Ohm gleich mal 12 V nur am Vorwiderstand abfallen! Für den Motor wären dann noch 13V übrig.

Mit 0,5 Ohm war dein Widerstand schon gut gewählt. Was du ändern musst ist der Spannungsteiler am Strombegrenzungs-Eingang deines Ansteuerungs-ICs (z.b. L297).

Dein Motor ist für 3 A gemacht. Wenn durch den 0,5 Sense Widerstand 3A fließen ergibt das nach U = R * I -> 0,5 Ohm * 3A = 1,5V
Also muss du das Poti an deinem L297 Strombegrenzungseingang (Vref wenn ich mich nicht irre) so einstellen, dass am Pin 1,5V anliegen.

MfG Alex