estas seguro que quieres eliminar un Jbuton solo vasta con esconderlo
mi botonsito.setVisible(false);
bueno si detodas maneras quieres eliminarlo puede usar esto
miContenedor.remove(miBotonsito);
donde mi contenedor es un Container o cualquiera de sus hijos como Jframe o Jdialog o Jpanel