postea una imágen del problema para salir de dudas.
A eso me refiero...
Cuando al Form le cambio las propiedades
BackColor = Cualquier color
PictureBox
Y pongo una imagen
.PNG de alta resolución.. sus bordes se conservan con buena calidad
Ejemplo..
Pero cuando le cambio la propiedad del Form
BackColor = Window
TransparencyKey = Transparent
FormBorderStyle = None
El form queda asi
A lo que me quiero referir son a estas partes en blanco
Y mira este es un ejemplo desde el PhotoScape, como podes ver la imagen esta en su mejor calidad y sus bordes no se ven robustos
Ver imagen