Es gibt diesen Spannungsregler in einer Bauform mit 4 Pins - der vierte ist ein inhibit-Pin, mit dem man offenbar den Regler abschalten kann. Vielleicht ist das die einfachste Lösung.
Geht der GND deiner Schaltung auch über den GND-Anschluss des Mosfets oder dirkt an deinen mit 0V bezeichneten Punkt? Wenn du mit dem Mosfet den kmpletten GND-Zweig abschaltest, kann da doch eingentlich nichts mehr fließen.
Hast du mal die Spannung am Ausgang des Reglers gemessen? Wenn die LED leuchtet, muss da doch wenigstens eine merkliche Spannung drauf sein.