hab mal die Spannung nachgemessen:
wenn das Relais schalten sollte liegen am Input des Spannungswandlers nur knapp 6V an, am Output weniger als 4V!
Das Relais schaltet bei etwa 4,5V.
Es fließt ja fast der benötigte Strom durch das Relais das hier wie ein Widerstand wirkt. 10% mehr und es würde schalten. Es fällt halt noch etwas Spannung am Regler ab.

Andererseits sollten ein Netzteil für 12V nicht bei 6V betrieben werden das sieht nach Überlast aus.
Manfred