Esas son las pepqueñas dificultades que uno se tropieza cuando pasas de un programa que te hace casi todo como el paint a photoshop done te toca poner mas de tu parte.

En realidad es mas facil de lo que es, sobre la imagen que necesitas hacer el marco cojes la herramienta de seleccion cuadrada y realizas un recuadro dejando por fuera la parte donde necesitas colocar el borde, luego vas al menu seleccion y le das "invertr seleccion" debe quedar seleccionado la parte que dejaste por fuera, una vez hecho esto puedes hacer lo que gustes, darle relleno, darle volumen con el alien skin por ejemplo, difuminar.. lo que gustes como ya te he dicho.