hola puede hacer lo siguiente:

Usuario usuario = new Usuario();  //crear el nuevo formulario
boolean mostrar=true;

for (int a=0;a<jdesktop.getComponentCount();a++){     // verificar si es instancia de algun componente que ya este en el jdesktoppane
    if( usuario.getClass().isInstance( jdesktop.getComponent(a) )){
        System.out.println("es instancia, no se debe mostrar");
        mostrar=false;
    }else{
        System.out.println("no lo es, puede mostrarse");
    }
}
if(mostrar){ jdesktop.add(usuario); }

saludos.