Las tres alternativas gratuitas a MATLAB más comunes son Octave, FreeMat y Scilab; de esas tres opciones Octave es la más compatible con MATLAB.
Tal vez Python con SciPy, NumPy, matplotlib y Sage sea más poderoso que Octave, pero Octave corre los programas que codifiqué en MATLAB.
Referencia: