Der Operationsverstärker als Komparator ist ja schon ein sinnvoller Ansatz.
Wenn es Rail-to-Rail OPAmps für so geringe Spanungen gibt(ich wüsste eigentlich nicht, warum nicht, aber hab' sowas noch nicht gesehen), kommst du mit 0,3V oder so Verlust aus. Sonst kannst du auch am Ausgang zwei Transistoren(die in gegensätzlicher Richtung jeweils eine LED ansteuern) dahinterbauen.
Wenn du überhaupt keine Spannung übrig hast, bleibt eigentlich nur ein Relais. Die sind aber recht selten in so klein und für so kleine (Spulen-)Spannungen(und der Stromverbrauch ist auch nicht ganz ohne.).