Mira, te dejo un tutorial, sacado de ZonaPhotoshop, claro está, necesitarás photoshop para hacerlo xD.
1. Cojemos La Herramienta Rectangular y Marcamos en la firma,Nos Saldra esto:

2. Ahora iremos a Selecion~>Modificar~>Suavizar y lo ponemos entre 5 o 10 Como mas os gueste.

3. Ya lo tenemos redondeados las puntas del rectangulo , damos al boton derecho en la imagen y damos click en ~Selecion Inversa~.

4. Le damos a Supr '' Suprimir ''.

5. y Si quieres añadirle un contorno le damos al boton derecho en l'imagen , le damos click en Seleccionar Inverso y luego vamos a Edicion~>Contear y Ponemos el Ancho del borde y el color .
Resultado final :

Espero que te haya servido, cualquier cosa dime

Saludos!