Mira, te dejo un tutorial, sacado de ZonaPhotoshop, claro está, necesitarás photoshop para hacerlo xD.
1. Cojemos La Herramienta Rectangular y Marcamos en la firma,Nos Saldra esto:
2. Ahora iremos a Selecion~>Modificar~>Suavizar y lo ponemos entre 5 o 10 Como mas os gueste.
3. Ya lo tenemos redondeados las puntas del rectangulo , damos al boton derecho en la imagen y damos click en ~Selecion Inversa~.
4. Le damos a Supr '' Suprimir ''.
5. y Si quieres añadirle un contorno le damos al boton derecho en l'imagen , le damos click en Seleccionar Inverso y luego vamos a Edicion~>Contear y Ponemos el Ancho del borde y el color .
Resultado final :
Espero que te haya servido, cualquier cosa dime
Saludos!