В обзоре "Open scientific software" кратко рассказывается о математических библиотеках FFTW (Fastest Fourier Transform), GSL (GNU Scientific Library), Galois Field Arithmetic Library и пакетах Maxima, Octave.
Ну MPI никак не математический пакет. А списочек могу дополнить: PETSC, SLEPs и много чего http://www2.sscc.ru/PPP/Prl_1.htm
Кроме того, нет про GiNaC, да и вообще, много чего забыто
Конечно есть, достаточно поинтересоваться у Google: http://www.ncrg.aston.ac.uk/NN/software.html