Also wenn ich das Datenblatt richtig deute, berechnet sich das ganze so:
Spannung Vout= 2,77V*(1+R2/R1)
Strom: Iout = (Vpin5-Vpin2)/R3 = 0,45V/R3;

Laut Datenblatt liegt die Spg. zw. Pin 2 und 5 typisch bei 0,45V
die Referenzspannnung an Pin 4 hat typisch 2,77V

Mit deinen Werten würde das bedeuten:
Vout = 36,6V @Poti = 10k
Vout = 19,7V @Poti = 5k
Vout = 2,77V @Poti = 0R

Iout = 0,009A @Poti = 50R
Iout = 0,018A @Poti = 25R
Iout = 0,036A @Poti = 12,5R
Iout = 0,090A @Poti = 5R
Iout = 0,45A @Poti = 1R

=> Also ist dein Strom-Poti meiner Meinung nach falsch dimensioniert!
Zwar kannst du theoretisch schon zwischen 9mA und 3,6A(interne Strombegrenzung)
einstellen, aber eben im höheren Strombereich nur sehr ungenau.

Versuch doch mal eins:
Brücke erst mal Pin 2 und 5
Dann stellst du z.Bsp 10V ein (wenns denn geht)
Dann baust du zw. Pin 2 und 5 nen Fest-Widerstand mit z.B. 5Ohm.
Dadurch würden also 0,09A zugelassen werden.
Ohne Belastung des AUsgangs müssten eigentlich noch die 10V anstehen.
Belastest du jetzt z.B mit 50 Ohm (200mA), würde die Strombegrenzung greifen
und die Spannung in den Keller gehen (90mA*50Ohm = 4,5V)
Geht das alles, hat sich meine Theorie bestätigt

Ich denk mal der IC ist für ne einstellbare Strombegrenzung mit Leistungs-Poti eher weniger geeignet.
Der Stromsensor mit Widerstand ist wohl eher für ne absolute Strombegrezung gedacht.
Also vielleicht solltest du das eher nach Fig.23 mit nem LM741 realisieren.