Eine Befragung von Onkel Google zum Thema freies Matlab-Äquivalent ergab das hier: http://www.scilab.org/

Sogar mit Simulink-Äquivalent. Sollte zumindest zum Entwurf von Reglern ausreichen. Aber keine Ahnung ob das deinen Anforderungen entspricht.