elhacker.net cabecera Bienvenido(a), Visitante. Por favor Ingresar o Registrarse
¿Perdiste tu email de activación?.

 

 


Tema destacado: Security Series.XSS. [Cross Site Scripting]


+  Foro de elhacker.net
|-+  Foros Generales
| |-+  Foro Libre
| | |-+  ¿Por qué hay IAs o chatboxs que llegan a conclusiones equivocadas?
0 Usuarios y 1 Visitante están viendo este tema.
Páginas: [1] Ir Abajo Respuesta Imprimir
Autor Tema: ¿Por qué hay IAs o chatboxs que llegan a conclusiones equivocadas?  (Leído 3,511 veces)
Tachikomaia


Desconectado Desconectado

Mensajes: 1.214


Superhacker (es broma xD )


Ver Perfil
¿Por qué hay IAs o chatboxs que llegan a conclusiones equivocadas?
« en: 21 Marzo 2023, 03:46 am »

Nota: Lo que digo a continuación son recuerdos un tanto vagos, no se fíen mucho de lo que digo.

Hace tiempo leí que un ingeniero de Google fue despedido porque dijo que una IA había adquirido consciencia y (la IA) pidió un abogado.
Edit: Eso lo escribí cuando en el título había puesto que hacen cosas inesperadas, entiéndase por ahí, pero si la IA creía tener consciencia y no era cierto, entonces se puede aplicar la pregunta del título.

Recientemente leí que un chatbox llamado SARA o SAI o algo así, de Microsoft, se volvió racista y otras cosas.
Edit: Tay, nada que ver  :-[
https://www.elmundo.es/tecnologia/2016/03/28/56f95c2146163fdd268b45d2.html

Ahora leí esto
https://www.bloomberglinea.com/2023/03/08/quiero-robar-codigos-nucleares-y-ser-libre-le-respondio-ia-de-bing-al-nyt/

Se supone que son gente muy inteligente quienes diseñan esas IAs o chatboxs ¿por qué pasan esas cosas entonces?

Gracias.
« Última modificación: 21 Marzo 2023, 03:47 am por Tachikomaia » En línea

Blowfish

Desconectado Desconectado

Mensajes: 30



Ver Perfil
Re: ¿Por qué hay IAs o chatboxs que llegan a conclusiones equivocadas?
« Respuesta #1 en: 21 Marzo 2023, 15:30 pm »

Hola Tachikomaia, no entiendo mucho de "IA's", pero tengo entendido que no piensan. Lo que no piensa no puede llegar a conclusiones, los resultados dependen de la información que se les ha introducido a esas redes neuronales en la fase de entrenamiendo.

A ChatGPT la han entrenado con la Wikipedia (que contiene errores) y con una base de datos de posts de reddit con un determinado "karma", que te puedes imaginar que es más subjetivo todavía.

¿Hay una conclusión acertada sobre qué es la belleza?
A mi me pueden gustar rubias con los pechos grandes y a ti morenas con los pechos pequeños. Ninguna de las dos soluciones es una verdad absoluta, porque NO TODO ES MATEMATIZABLE.

A mi la verdad objetiva que me importa sobre OpenAI es que el 49% pertenece a Microsoft, y NADA bueno puede salir de eso. ¿De qué te sirve una tecnología genial si es usada en tu contra?

Se supone que son gente muy inteligente quienes diseñan esas IAs o chatboxs ¿por qué pasan esas cosas entonces?

Vaya criterio, "como son personas muy inteligentes no se pueden equivocar o todo lo que hacen es bueno". Entonces una persona inteligente no te puede engañar para robarte tu dinero, ni puede diseñar un producto que sea negativo para la sociedad, las personas inteligentes usan siempre la inteligencia para el "bien".
« Última modificación: 21 Marzo 2023, 15:40 pm por Blowfish » En línea

Falo Zipo Pixote

Desconectado Desconectado

Mensajes: 143


Ver Perfil
Re: ¿Por qué hay IAs o chatboxs que llegan a conclusiones equivocadas?
« Respuesta #2 en: 21 Marzo 2023, 16:44 pm »

Aparte de que, como se ha dicho, hay unos programadores detrás que necesariamente han tenido que dejar su sesgo personal en los algoritmos de "forma de pensar" de la IA, también está el hecho de que una de las características de la IA es -bueno, se supone que debe ser- la retroalimentación; la capacidad de "aprender" (signifique ello lo que quiera que signifique para una máquina) a partir de las interacciones con personas (o incluso con otras máquinas porque puede que muchas de las conexiones que recibe no sean personas sino otros bots/máquinas-quizá también programas IA). Pero ese aprendizaje/retroalimentación va a depender de lo que le digan. Igual que un niño pequeño -por éso todos los sistemas políticos-éticos-religiosos-filosóficos pretenden acaparar y/o orientar los sistemas educativos, para inculcar en los pequeños una determinada forma de pensar/actuar/forma-tipo de sociedad. Entonces imaginemos que de 12.000 millones de habitantes de La Tierra, acceden a internet quizá 8.000. Y de ésos se interesan por la IA 1.000 o quizá menos. Supongamos que entran a interactuar con bots IA 500 millones. Son números sin comprobar, es solo para exponer una hipótesis de comportamiento. Pero supongamos que las personas más interesadas en interactuar/orientar/promover unas ideas son de un determinado sesgo ideológico son mayoritariamente de determinadas ideologías como las citadas. Por ejemplo imaginemos que de esos 500 millones 490 millones son de ideologías nazis/ultraderecha/ o similares... y solamente hay 10 millones de otras formas de pensar que entran a "hablar" con la IA. El resultado sería que el "nene" (la IA) si está bien concebida para "aprender" -sin más controles previos- lo que aprenderá es... ¡efectivamente!... pensará que ése es el sentir-forma-de-pensar mayoritario y, si está bien construida para aprender, aprenderá que... ¡esa es la forma correcta de pensar! Así que quizá alguna IA puede que termine "pensado" así precisamente porque que está bien concebida como máquina de aprender; y no lo contrario. La alternativa sería tamizar las opiniones que puede recibir y orientar su aprendizaje y el tipo de opiniones que puede recibir. Pero claro, eso sería claramente censura previa. Como hacemos con los niños todos (padres, profesores, políticos, filósofos, religiosos, etc)... orientar lo que los niños queremos que aprendan según nuestra forma de ver el mundo cada uno.
En línea

Tachikomaia


Desconectado Desconectado

Mensajes: 1.214


Superhacker (es broma xD )


Ver Perfil
Re: ¿Por qué hay IAs o chatboxs que llegan a conclusiones equivocadas?
« Respuesta #3 en: 22 Marzo 2023, 05:12 am »

Hola Tachikomaia, no entiendo mucho de "IA's", pero tengo entendido que no piensan. Lo que no piensa no puede llegar a conclusiones, los resultados dependen de la información que se les ha introducido a esas redes neuronales en la fase de entrenamiendo.
Pero las que te comenté cambiaron, es decir estaban "bien" y luego de interactuar con gente cambiaron. Al menos Tay y probablemente la de Bing.

Citar
¿Hay una conclusión acertada sobre qué es la belleza?
A mi me pueden gustar rubias con los pechos grandes y a ti morenas con los pechos pequeños. Ninguna de las dos soluciones es una verdad absoluta, porque NO TODO ES MATEMATIZABLE.
Me das un ejemplo de algo así, concuerdo en que los hay, pero también hay cosas que sí son verdad objetiva, decir que Hitler nada malo hizo parece mentira (algunos niegan el holocausto, pero incluso si fuera falso eso la invasión a Polonia y a Rusia a casi todo lo que se movía no parece algo bueno, y así le fue, se tuvo que suicidar y Alemania quedó hecha polvo, le hizo mal a Alemania, a los alemanes, a su propia familia...), y decir que se quiere causar una pandemia parece algo malo, no me vayas a decir que es bueno para los pollos, vacas, etc xD Debe de haber una mejor manera de ayudarlos.

Citar
A mi la verdad objetiva que me importa sobre OpenAI es que el 49% pertenece a Microsoft, y NADA bueno puede salir de eso. ¿De qué te sirve una tecnología genial si es usada en tu contra?
Unos conspiranoicos me mostraron un video en que Bill decía que quería hacer una pandemia para reducir la población mundial (lo dijo antes del COVID 19), por otro lado dijeron que es un error de traducción o que editaron el video, yo no sé ¿realmente él podría haber dicho eso sin que los medios hicieran escándalo? ¿por qué dices que Microsoft es "malo"?
Y dije que son conspiracionistas porque lo son, especialmente uno de ellos, parece que dedicara todo su tiempo a informarse sobre conspiraciones.
¿OVNIS en EEUU? Escuchó que se descarriló un tren que llevaba un tóxico, se desparramó, el mayor desastre ambiental de EEUU en la historia, los animales cercanos murieron, la gente no tan cercana morirá de cáncer, alguien que filmó las vías y dijo que no había falla, que fue sabotaje, apareció muerto en su taller, fue el único que se quemó, y escuchó que en una novela casualmente ocurrió lo mismo (del tren y el tóxico) y que el gobierno para ocultarlo se puso a hablar de OVNIS.
¿Los rusos son los malos del conflicto? No, dice, es lo que los occidentales quieren hacer creer. ¡Es una conspiración!
¿Pandemia? No, son enfermedades comunes, sólo mueren ancianos, es una plandemia para controlar a la gente.

Citar
Vaya criterio, "como son personas muy inteligentes no se pueden equivocar o todo lo que hacen es bueno".
No se pueden equivocar tan feo ¿me explico? Una cosa es cometer un error, otra generar una aberración. Una cosa es que tuvieran su coche muy cerca del de otro, que frenó de golpe y chocaron, otra cosa es que vayan a toda velocidad sin parar cuando hay luz roja.

Citar
Entonces una persona inteligente no te puede engañar para robarte tu dinero, ni puede diseñar un producto que sea negativo para la sociedad, las personas inteligentes usan siempre la inteligencia para el "bien".
Bueno, de acuerdo, pero me cuesta creer que haya gente que por gusto haga IAs que dicen disparates. ¿Qué ganan con eso? ¿acostumbrarnos a la idea de que puede salir mal para en el futuro hacerlo por gusto y que creamos que fue por error? Puede ser, yo a Microsoft le tengo cariño por lo que obtuve gracias a ellos, por eso en parte me cuesta creer que sean "malos", por eso pienso que son errores y se los perdono, pero me resulta raro sí que cometan esos pequeños... no, grandes errores. Tal vez los errores que cometieron en algunos de sus programas fueron para hacernos creer que es normal que cometan errores ¿no? Jaja.
En línea

Blowfish

Desconectado Desconectado

Mensajes: 30



Ver Perfil
Re: ¿Por qué hay IAs o chatboxs que llegan a conclusiones equivocadas?
« Respuesta #4 en: 22 Marzo 2023, 19:12 pm »

Tal vez los errores que cometieron en algunos de sus programas fueron para hacernos creer que es normal que cometan errores ¿no? Jaja.

En línea

Tachikomaia


Desconectado Desconectado

Mensajes: 1.214


Superhacker (es broma xD )


Ver Perfil
Re: ¿Por qué hay IAs o chatboxs que llegan a conclusiones equivocadas?
« Respuesta #5 en: 23 Marzo 2023, 16:25 pm »

Falo Zipo Pixote:
Me cuesta creerlo pero puede que tengas razón, al fin y al cabo conozco a un par de ultraderechas en otro foro y casualmente los dos prácticamente lo único que hacen ahí es criticar a los zurdos, wokes, judíos y defender a Hitler. Un ejemplo:
Dice un/a loc@ (lo está, pero es otro tema así que no lo explicaré):
"No tienes pareja? A veces las parejas que llevan mucho tiempo juntas se violan entre ellas."
Respuesta del nazi:
"Será entre judíos."

Él podría haber respondido millones de cosas, haber hablado de alguna experiencia que haya tenido que apoye/refute la afirmación anterior, algún pensamiento o sensación que le haya surgido, como que le parece mentira, que le da asco, que le parece mal, que deberían hacer introspección, pero no, el tipo parece que en su cerebro sólo tuviera la ideología, o que fuese como algún cofre en un videojuego, que el 99% de las veces te gasea. Es increíble la verdad, que exista gente así, o al menos me cuesta creerlo, pero como existen, y lo he comprobado, tu hipótesis me parece que podría ser cierta.
En línea

Páginas: [1] Ir Arriba Respuesta Imprimir 

Ir a:  

Mensajes similares
Asunto Iniciado por Respuestas Vistas Último mensaje
Llegan las unidades USB 3.0 externas
Noticias
wolfbcn 0 1,346 Último mensaje 7 Mayo 2010, 21:47 pm
por wolfbcn
Llegan las cuentas gratuitas a App.net
Noticias
wolfbcn 0 1,554 Último mensaje 25 Febrero 2013, 22:29 pm
por wolfbcn
Análisis y conclusiones de Tomb Raider
Noticias
wolfbcn 0 1,194 Último mensaje 5 Marzo 2013, 21:22 pm
por wolfbcn
Los quioscos Wi-Fi llegan a Barcelona
Noticias
wolfbcn 0 1,045 Último mensaje 19 Febrero 2014, 18:11 pm
por wolfbcn
"Prioridades equivocadas": Anonymous manda un mensaje a los multimillonarios ...
Noticias
wolfbcn 5 1,479 Último mensaje 23 Abril 2019, 17:31 pm
por Machacador
WAP2 - Aviso Legal - Powered by SMF 1.1.21 | SMF © 2006-2008, Simple Machines