Hola primero deberias intentar con el hardware, tal vez sea ese el problema.
Intenta grabar con algun otro dispositvo y asegurate de que el sonido no exista.
Tal vez el problema no sea Java.

Si ese no es caso, la verdad no conozco alguna API de java que te permita hacer esto de manera automatica, así que tendrias que crear algun algoritmo.

Si sabes un C++ puedes ver el código que utiliza Audacity para la eliminación del ruido.

http://audacity.sourceforge.net/


Saludos.

ok gracias pero esque la maestra que nos marco este programa nos pidio que especificamente fuera crear una aplicacion con java para eliminar el ruido y es precisamnete como dice Debci