Das Klappt jedoch nicht, obwohl der Widerstand auf ca 20mOhm hochgeht bei völliger Dunkelheit.
Ich denke du meinst 20MOhm (Groß-/Kleinschreibung bei Einheiten ist wichtig. M=Mega=Million m=Milli=Tausendstel).

Wie Hubert schon andeutete den spannuhngsteiler umdrehen.
Was die Hysterese angeht so ist der MAX1724 unkritisch.
Im Gegenteil, die eigene Hysterese und der recht hohe Eingangswiderstand des Shutdown-Pins verhindern ein unkontrolliertes und lastabhängiges "Flattern".


Wenn du als energiequelle zufällig eine Solarzelle in der Schaltung nutzt kannnst du sie hier prima anstatt des Photowiderstandes nutzen (Spannungsbegrenzung nicht vergessen)