1. Der hat wohl laut datenblatt ne verlustleistung von 10W jeh phase wenn 2 A pro Phase fießen. darum hängen da immer so fette kühlkörper dran. probiers mal damit

2. inhibit geht afaik zu enable, und das ist ja zum ausschalten der spulenströme. was meinst du mit "unbeschaltet gelassen? inh vom l297 und enable vom L298 nicht miteinander verbunden?
wenn ja dann spielen die enable-eingänge "antenne" und das entspricht nem zufallsgenerator.

was meinst du mit "von hand auf +5V oder masse legen"? einfach mit nem kabel und dann kontakte berühren? nimm lieer nen schalter oder entprellte taster, du kannst beim berühren bis zu zig impulse haben.
wenn dder L197 interne pullups hat, dann bringt auf +5V legen nix, probier mal nur mit nem entprellten taster gegen gnd zu schalten