Mit der Schaltung wirst du sicherlich nicht glücklich werden...Mit offenem, nichtinvertierendem Eingang wird deine Auswertung samstagsabends um viertel vor sieben funktionieren.
Du solltest dann den nichtinvertierenden Eingang deines OPs wenigstens gegen Masse schalten. Ich würde den Fototransistor mit Kollektor gegen Plus in Reihe mit einem Widerstand gegen Masse schalten. Ein Knotenpunkt zwischen Fototransistor und Widerstand wäre mit dem nichtinvertierenden Eingang verbunden. Dazu einen Trimmer, den Festwiderstand gegen Plus und Masse, den Schleifkontakt dann auf den invertierenden Eingang legen und erstmal testen, ob sich da am Ausgang was tut, wenn der Fototransistor auf den Barcode schielt, der vom Laser angestrahlt wird.
Das wäre auch sicherlich noch nicht die Endlösung, aber eine einfache Grundlage, auf dessen Basis du dann eine Weiterentwicklung fuckelst... Bau ersteinmal eine Schaltung, die zuverlässig zwischen hell und dunkel unterscheidet. Vergiss erstmal RS232 und Controller...
Auf jeden Fall solltest Du deinem Quarz später noch ein paar Einschwingkondensatoren spendieren, und dem MAX232 eine Versorgungsspannung.
Sowie dem RESET-Port einen Pullup-Widerstand.

Ansonsten viel Spaß beim basteln =)