Me temo que no lo vas ha poder hacer eso que quieres ya que java no permite hacer uso directo de cosas a bajo nivel...
Por otra parte Java te permite varias opciones al respecto para poder respaldar cosas como las que buscas:
1) Opción: Hacer uso de la clase
Runtime: Esta clase te ofrece funciones como
exec() que a su vez gracias al método
getRuntime() puedes llegar a ejecutar comando Windows entre ellos el que te permita ocultar la barra de tareas pasandole la cadena que lo haga.
2) Opción: Hacer uso de
RMI: Este método es un poco rebuscado(pero si esta es por algo
)Puedes hacer uso de funciones creadas en otros lenguajes como por ejemplo
C, C++(haciendo uso de la API de Windows si que te permite la manipulación de ciertas funciones que te permitirán ocultar la barra de tareas)
Un saludo!