Ich denke nicht, dass die Spannung das Problem ist, das macht sich erst bei höhren Drehzahlen bemerkbar.
Überprüfe mal ob die Spulen korrekt angeschlossen sind. Zwischen OUT1A und OUT1B sowie zwischen OUT2A und OUT2B solltest Du den Spulenwiderstand (= Fast Kurzschluss) messen. Beide Spulen dürfen untereinander keine Verbinung haben.
Kannst Du die Ströme durch beiden Spulen anschauen? Die sollten sinusförmig sein (so wie auf dem Datenblatt dargestellt). Hilfsweise kannst Du ja die Spannung an den Sense Eingängen anschauen.