Hallo,
wie hochohmig ist das Piezo-Element ? Vermutlich seeeeehr hochohmig.
Das ist für den OpAmp wie ein offener Eingang. Ich würde mal 1M...100k parallel zum Piezo legen.
Was hast Du für einen OpAmp ? Hat der evtl. einen OpenCollektor-Ausgang, aber keinen PullUp-Widerstand ?
Mit dem Eingangswiderstand des Oszis / Tastkopfs hast Du einen dieser (fehlenden) Widerstände nachgebildet.