GND gehört in jedem Fall an die Betriebsspannungs-Masse.
"Oben" gehört kein P-Kanal hin.
Der Bootstrap-C ist reichlich groß.
Wenn das IC die bisherigen Fehler überlebt hat, solltest Du mit LIN den unteren MOSFET beliebig ansteuern können.
Die Boostrap-Schaltung kann nur dann funktionieren, wenn der untere MOSFET periodisch leitend wird UND dann ein Strom durch die Last fliessen kann, um ihn zu laden. Eine induktive Last kann das u.U. verhindern. Ausserdem wird IC-intern die Ladeschaltung auch nur aktiviert, wenn der untere MOSFET angesteuert wird, als reiner Highside-Treiber ist dieses IC also nicht zu gebrauchen. Aufgrund der seltsamen Topologie - Last zwischen High- und Lowside-Treiber - hängt die Funktion wie gesagt von der Art der Last (Gegen-EMK) ab, mit Pech wird der C nicht (ausreichend) geladen. Warum musst Du für eine Spule beide Versorgungsleitungen schalten? Das macht eigentlich nur bei Halbbrückenwandlern Sinn.
Ich habe bisher die MOSFET-Treiber von Teledyne, Harris, IRF und TI eingesetzt und keine derartigen Probleme gehabt.