Wärmeleitpaste verbindet Gegenstände thermisch formschlüssig. Wenn Du Metall auf Metall setzt, bekommst Du ohne Wärmeleitpaste keinen flächig vollständigen Kontakt zum Kühlkörper. Die Wärmeleitpaste schließt den Spalt zwischen den Metallflächen als guter Wärmeleiter. Du hast damit also eine größere Kontaktfläche und damit eine bessere Wärmeableitung.
Manche Wärmeleitpasten sind auch selbstklebend. Ich würde mich allerdings bei einem Fahrzeug nicht alleine auf den Klebeeffekt verlassen. Das rüttelt sich ab. Eine Schraube zusätzlich ist da wahrscheinlich sicherer.

Ob die Freilaufdiode richtig ist? Ich glaube, bessere technische Daten bekommst Du kaum bei einem anderen Typ (kostet ja auch nur 1,50), allerdings hängt es schlicht praktisch vom System (Transistor-Motor-Layout) ab, ob (und wie lange) die Diode tut, was sie tun soll. Bedenke: Worst Case ist, wenn Du bremst, wenn also die Motorspule als Generator wirkt und den abgewürgten Transistor weiter mit Strom füttert. Im Zweifelsfall hilft Dir der Blick aufs Oszilloskopbild im örtlichen Hackerspace. Hier würdest Du sehen, ob die vom Motor erzeugten Spikes am Drain sauber durch die Diode weggefiltert werden.

Ansonsten, wenn der Kühlkörper kochend heiß wird (Finger einmal anlutschen und drauf damit, wenn's zischt, ist das NICHT GUT):
- PWM-Takt runtersetzen (weniger Schaltvorgänge-> weniger Schaltabwärme).
- 100R-Vorwiderstand: Wenn der zu groß ist, würdest Du das auf dem Oszilloskopbild sehen (PWM-Flanken am Gate werden verschliffen, wenn sich erst Kapazitäten laden/entladen müssen). Ggf. hilft ein MOSFET-Treiber.
- Größeren Kühlkörper nehmen?!?