Den SFH300 schaltest du in Reihe mit einem Widersand zwischen GND und Versorungsspannung und misst dann mit dem AD Eingang zwischen Widerstand und SFH300 die Spannung. Der SFH300 muss dabei in Sperrrichtung betrieben sein..
Um die Schaltung zu kontrollieren kannst du einfach mal mit nem Mutlimeter die Spannung zwischen Widerstand und SFH300 bei unterschiedlichem Lichteinfall messen.

Ob der Messwert mt zunehmendem Licht grösser oder kleiner wird hängt davon ab, ob du den Widerstand vor oder hinter den SFH 300 hängst.
Über den Widerstandswert kannst du die Empfindlichkeit steuern, als Ausgangswert sollten 20k funktionieren.

Bei dem Sharpsensor ist die Schaltung eigentlich recht eindeutig. Plus and die Versorgungsspannung (5V)
GND an GND und das dritte Kabel an den AD-Eingang.

Da ich kein C kann, bin ich nicht sicher, aber ich glaube in deinem Programm hast du die internen Pullups aktiviert.
Damit ziehst du den AD-Eingang auf VCC und dann kann bei der Messung nicht viel sinnvolles rauskommen.
Falls ich richtig liege, schalte die internen Pullups für die zum Messen verwendeten Eingänge einfach mal aus.