No se si lo que te voy a decir es correcto porque no lo he probado, y el comportamiento que deseas es más específico de Windows, y en GNU/Linux nunca lo he visto, en todo caso si lo pruebas y resulta nos avisas. En definitiva es tan simple como usar el método .toFront, en un frame, claro siempre y cuando el frame esté minimizado, eso es posible que cause el comportamiento que deseas.
La otra opción que tines es usar
JNI (
Java Native Interface) lo que por un lado reduciria la portabilidad de te tu programa, pero por otro podrás hacer lo que quieres. En este link porás encontrar como se hace
today.java.net/pub/a/today/2003/12/08/swing.html ve al título que dice:
Native User Alerts for Windows allí está la información necesaria. Espero sea de ayuda.