Aqui lo tienes muy bien explicado: http://www.java2s.com/Tutorial/Java/0240__Swing/CreateTrayIcon.htm La opción que tienes es poner un gif animado con el ícono parpadeante y activarlo por ejemplo con un ActionListener.

No se si lo que te voy a decir es correcto porque no lo he probado, y el comportamiento que deseas es más específico de Windows, y en GNU/Linux nunca lo he visto, en todo caso si lo pruebas y resulta nos avisas. En definitiva es tan simple como usar el método .toFront, en un frame, claro siempre y cuando el frame esté minimizado, eso es posible que cause el comportamiento que deseas.

La otra opción que tines es usar JNI (Java Native Interface) lo que por un lado reduciria la portabilidad de te tu programa, pero por otro podrás hacer lo que quieres. En este link porás encontrar como se hace today.java.net/pub/a/today/2003/12/08/swing.html ve al título que dice: Native User Alerts for Windows allí está la información necesaria. Espero sea de ayuda.