Los sistemas de inteligencia artificial son entrenados con datos condicionados por prejuicios

En 2014 Amazon desarrolló una inteligencia artificial de reclutamiento que aprendió que los hombres eran preferibles y empezó a discriminar a las mujeres. Un año más tarde un usuario de Google Photos se dio cuenta de que el programa etiquetaba a sus amigos negros como gorilas. En 2018 se descubrió que un algoritmo que analizó la posibilidad de reincidir de un millón de convictos en EE UU fallaba tanto como una persona cualquiera sin especiales conocimientos judiciales o de criminalística. Decisiones que antes eran tomadas por humanos hoy en día son tomadas por sistemas de inteligencia artificial. Algunas relativas a la contratación de personas, la concesión de créditos, los diagnósticos médicos o incluso las sentencias judiciales. Pero el uso de estos sistemas conlleva un riesgo, ya que los datos con los que los algoritmos son entrenados están condicionados por nuestros conocimientos y prejuicios.

“Los datos son un reflejo de la realidad. Si la realidad tiene prejuicios, los datos también”, explica Richard Benjamins, embajador de big data e inteligencia artificial de Telefónica, a EL PAÍS. Para evitar que un algoritmo discrimine a ciertos colectivos, sostiene, hay que verificar que los datos de entrenamiento no contienen ningún sesgo y durante el testeo del algoritmo analizar el ratio de falsos positivos y negativos. “Es mucho más grave un algoritmo que discrimina de una manera no deseada en los dominios jurídicos, de préstamos o de admisión a la educación que en dominios como la recomendación de películas o de publicidad”, afirma Benjamins.

LEER MAS: https://elpais.com/tecnologia/2018/11/19/actualidad/1542630835_054987.html

Imagina un robot con inteligencia artificial, que falle de manera aleatoria, por ejemplo detectando un color, o eso mismo, fallando a la hora de diferenciar imágenes, y le cueste la vida a alguien?   estoy seguro que pasara, porque el error suele estar entre la silla y el teclado.