Also gerade hab ich nochmal etwas rumprobiert, wenn VCC über ca. 14V liegt, läuft es einige Minuten Störungsfrei, irgendwann reißt es dann aber doch wieder ab...
Die Bilder im ersten Post sind bei VCC 12V aufgenommen, VCC ist gleich VMOT.
Also Spule war die hier ( https://www.reichelt.de/power-indukt...ct=pos_1&nbc=1 ) im Layout eingeplant, hab die aber momentan gegen die ( https://www.reichelt.de/chip-indukti...ct=pos_4&nbc=1 ) getauscht, die Symptome waren aber die gleichen.
COSC ist ein X7R Kerko mit 470p, nahe am Chip, wie im DB verordnet! Ich hab mich bei allen Werten ans DB gehalten, das sollte eine Freq von 100kHz ergeben, was auch stimmt!