elhacker.net cabecera Bienvenido(a), Visitante. Por favor Ingresar o Registrarse
¿Perdiste tu email de activación?.

 

 


Tema destacado: Introducción a Git (Primera Parte)


+  Foro de elhacker.net
|-+  Foros Generales
| |-+  Foro Libre
| | |-+  Efectos de los chatbot's de IA en la sociedad
0 Usuarios y 1 Visitante están viendo este tema.
Páginas: [1] Ir Abajo Respuesta Imprimir
Autor Tema: Efectos de los chatbot's de IA en la sociedad  (Leído 3,274 veces)
Blowfish

Desconectado Desconectado

Mensajes: 30



Ver Perfil
Efectos de los chatbot's de IA en la sociedad
« en: 10 Marzo 2023, 19:02 pm »

Hola, me gustaría saber qué pensais los usuarios más veteranos de este foro sobre las posibles implicaciones de los modelos de lenguaje de "IA". Me refiero a ChatGPT y derivados, y al impacto en la vida de las personas. Soy consciente de que no se trata de una IA real, así que no planteo la posibilidad de que las máquinas se rebelen contra las personas.

¿Creeis que estamos ante un cambio disruptivo?
« Última modificación: 10 Marzo 2023, 19:03 pm por Blowfish » En línea

Locura_23

Desconectado Desconectado

Mensajes: 162



Ver Perfil
Re: Efectos de los chatbot's de IA en la sociedad
« Respuesta #1 en: 10 Marzo 2023, 19:39 pm »

En mi opinión, es una herramienta más a disposición nuestra, y en ultima instancia depende del que la use. Ocurrió algo parecido con muchos avances a lo largo de la historia:

imaginate que en la antiguedad, algunos sabios decian que la escritura era algo que debilitaba a la mente, porque ya no se utilizaba la memoria sino que se leia desde el papel.

la calculadora nos permite hacer calculos muy rapidamente, por ejemplo un cientifico no podria realizar avances tan rapidamente sin una calculadora. Pero ni el cientifico mas brillante podria igualar a la velocidad de una calculadora y ponerse 'triste' por no poder ser tan rapido como ella es una tonteria.

el internet es una muy potente herramienta, donde puedes aprender de todo, aunque tambien es una 'fuga de cerebros', debido a la cantidad de contenido de entrenimiento disponible.

Mi opinion sobre la ia es que una herramienta que nos va a permitir hacer avances en otros
campos y tareas, y puede utilizarse para fines utiles como no.
Pero sí es cierto que va a traer nuevos retos, por ejemplo, los maestros van a tener que estar
atentos a ver si sus alumnos utilizan esta nueva version del rincon del vago potenciada  :xD



En línea

Serapis
Colaborador
***
Desconectado Desconectado

Mensajes: 3.391


Ver Perfil
Re: Efectos de los chatbot's de IA en la sociedad
« Respuesta #2 en: 11 Marzo 2023, 13:06 pm »

Sin ninguna duda.
ChatGPT, marca un antes y un después... quizás no tanto sus capacidades, como por el hecho de que esté a disposición de todo el público de forma libre.

Hay que recordar que como IA está orientado al lenguaje y es importante tenerlo en cuenta para entender como exprimirle todo el jugo. Los que lo tratan como un oráculo, se equivocan en la forma de usarlo.

Yo lo he puesto a prueba concienzudamente y puedo decir que es bastante bueno, aunque le falta coherencia... puedes describirle un algoritmo mediante un pseudocódigo en prosa, luego pedirle el código en x lenguaje (de programación) y te lo da. Yo he probado dándole las instrucciones muy enrevesadas y desordenadas y es capaz de reordenarlo todo bien y 'sacar' las conclusiones pertienentes, pedirle luego que explique que hace y acaba describiendo el mismo pseudocódigo que le dí, pero ahora ordenado y con claridad.

Falla en cuanto a la coherencia, si le pides un código en x lenguajes, a veces salta entre otros lenfuajes cuya sintaxis es básicamente la misma. Si le pides de nuevo que vuelva a poner tal o cual función, puede ser que añada o elimine parámetros que antes eran distintos, o bien ofrece una versión alternativa completamente distinta... en cuaquier caso casi siempre es bastante subóptimo, pero lo importante es que realiza la tarea y la mayoría de las veces bien... puede spregutarle sobre ciertas partes del código y las explica, es decir no se limita a un copy-paste (como muchos creen).

A veces tienes la rara sensación de que entiende lo que le escribes. Para verificar que no realiza copy-paste, nada mejor que exponerle un algorimo del que tengas la certeza que no hay ninguna copia disponible en la red... pero le das unas instrucciones tortuosas (yo lo he hecho), luego le pides que haga el código y lo hace correctamente (como digo subóptimo prácticamente siempre), luego le preguntas 'por qué el código del algoritmo funciona para resolver el problema descrito' y te da indicaciones bastante certeras, con indicaciones que incluso tú no le diste en las instrucciones, lo que te deja la sensación de que ha entendido (a menudo mejor que muchos usuarios que vienen al foro a preguntar  :silbar: )...

Saber sacarle todo su potencial exige del interlocutor ser preciso en lo que pregunta. Si le das indicaciones vagas, puede dar resultados inesperados, cómo mínimo hay que instarle a que si encuentra alguna ambigüedad en tus preguntas que se sienta libre de preguntarte para resolver  cualquier ambigüedad.

Esta IA, en realidad no es distinto de un autómata con pila con salida, esto es un traductor. Un autómata con pila determina si la cadena de entrada pertenece o no al lenguaje (que el automáta reconoce). Cuando además tiene salida, es decir capacidad de cambiar la entrada, se llama simplemente traductor. ChatGPT, hace esto bastante bien, ya que tiene al parecer un potente algoritmo semántico del lenguaje humano, es por ello que traduce tu entrada conviertiéndola en la salida (que es a fin de cuentas el objetivo de la "pregunta-respuesta"), de una forma bastante provechosa y eficaz.

Como tal yo no lo llamaría IA, pero dado que está alimentado con redes nueronales, para mejorar la efectividad (aprender), goza del privilegio (a mi modo de ver), de aceptar ese término, pero solo acotado a la alimentación de datos, aunque también he leído que tras dar una respuesta, evalúa si la respuesta es aceotable o no y no sé hasta que punto esto es cierto... quiero decir, cuando 'mete' la pata y se lo señalo, se disculpa y a continuación lo corrige, pero no veo que 'él mismo', se dé cuenta de su error, debes tú corregirle de su error para que el entonces revise su respuesta y elabore otra respuesta corrgida.
OJO: No confundir esta capacidad con la reevaluación de su respuesta para la corrección del sesgo que en origen le hayan introducido. Me explico. Al explorar sus limitaciones, a veces me ha dado una repuesta correcta, y automáticamente pocos segundos tras lograr terminar su lectura (iba leyendo mientras generaba la respuesta), el mensaje se ha borrado y bloqueado por que seguramente incumplía alguna d elas premisas que se le ha exigido que 'no traspase'... En un caso concreto, no lo hacía pero el hecho de incluir su mensaje determinadas palabras (más de una), de las que supuestamente tratan ciertos temas que se pretende que filtre, pesaba más... es decir daban más peso a la sintaxis que a la semántica, lo cual es un error de juicio.

Marca un punto de inflexión porque es una base sólida para la semántica del lenguaje humano, aumentada con la potencia de profunda de acceso a datos y una capacidad de aprendizaje. Aunque la derivación de ese aprendizaje, está por ver... puede acabar con el tiempo convirtiéndose en un 'idiota', si se entrena con 'gente idiota'... y perder con ello efectividad. es decir, debería ser capaz de discernir cuando debe actuar como alumno y cuandco como profesor, al tratar con 'idiotas', solo debería actuar como profesor, sin nada que aprender de ellos. Pero como digo dependerá de la derivación del aprendizaje que siga. Yo le 'pondría una ROM', de modo que ese sería un sistema fijo que funciona y le daría los grados de libertad adecuados para que pudiera ajustarse a cualquiera, incluso a 'idiotas', evaluando siempre el punto de distancia máximo de lo que supone su ROM. Así se evita que sus capacidades colapsen, si es entrenada con un ejército de trolls... Algo que podría pretender por ejemplo una empresa competidora.

Por 'idiota' no me refiero a personas de tal o cual índole intelectual, si no a gente cuya intencionalidad (conscientemente) no es otra que malograr (a título propio) el aprendizaje del sistema del IA (ChatGPT), al caso). Como enemigos de ese aprendizaje, serían trolls, trolls automáticos  (bots) o personas contratadas y también los autoconvencidos que no forman parte de una empresa o gobierno competidor.

Y sí, creo que más adelante habrán guerras (al principio serán solo intentos) para que una empresa o gobierno, intente manipular externamente la capacidad de una 'IA', para hacerla fracasar, ponerla en evidencia o enjuiciar sus resultados... Por de pronto, hace apenas unos días, ya ví un intento en ese sentido alegando que es 'ChatGPT' es machista... por el mero hecho de que si le preguntas que te dé una lista de x personas más influyentes en la Historia, la gran matoría son hombres (leches es lo que consta en la base de datos histórica, no es una elección para eliminar figuras femeninas)...

De hecho, tiempo atrás al exponerle a mi hermana el uso de ChatGPT, ella misma pensaba (porque desconoce como  opera una IA), que por estar programada por hombres (en su mayoría), tendría un sesgo machista... así que le pregunté por una lista de mujeres cientifíficas y arrojó una lista de unas 30, varias de ellas ni las conocía (ni yo ni mi hermana), le pedí luego que amplara la lista en otras 20, y aunque repitío alguna, todavía arrojó nombres que no conocíamos... luego ahí están ahora, que sean o no relevantes es otra cuestión.

Algo importante es que el chat, intenta responder siempre brevemente, creo que instado a propósito por la vagancia de la gente de hoy día por leer (la gente cuando ve respuestas largas, como este mismo mensaje  :laugh: huye de su lectura), así que si quereis tener buenos resultados debereis insistirles en que se extienda todo lo que necesite en su respuesta, si no puede resultar a veces algo críptico o dar respuestas no muy satisfactorias... con todo ya pude comprobar que está limitaod en la longitud de sus respuestas, si alcanza los 2.000 caracteres se corta, puede aún así pedírsele que continúe, desde donde se quedó en el ultimo mensaje...

También le interrogué acerca de si puede generar más de un mensaje seguido o si exige siempre de modo alternado pregunta-respuesta, responde que sí, que puede hacerlo aunque la lógica de interacción es adecuado la pregunta-respuesta. Cuando le pido que me lo demuestre llegó a cerrar su mensaje y abrir otro, pero al instante se engloba en el anterior, 'él crre haberlo logrado', pero obviamente el volcado no está controlado 'por él', si no formateado a la salida, o mejor dicho a la hora de plasmarlo en la ventana, por lo que deposita toda su respuesta en un solo mensaje, por lo que es imposible escapar al límite de 2000 caracteres. Aún así se le puede pedir que intente ser coherente, en sus respuestas para no sobrepasar esos 2000 caracteres y proporcionar una forma de seguir tras otra pregunta con la respuesta previa... aunque no siempre se logra.

En definitiva, tienen algunos límites establecidos por OpenAI, a la hora de conversar que impiden sacarle más provecho aún del potencial que tiene.

Si esto es solo el comienzo, es de esperar que sus capacidades mejoren con el tiempo y el rango de sus límites se amplíen.

Pienso que todo el mundo debería operar e interaccionar con ChatGPT (o al gunas otras IA, como esas enfocadas a imágenes), porque el futuro tecnológico tirará por aquí irremediablemente y el que no se suba al carro ahora que va a poca velocidad, lo tendrá más difícil cuando acelere y hayan evoluconado hacia sistemas más complejos.
En línea

Blowfish

Desconectado Desconectado

Mensajes: 30



Ver Perfil
Re: Efectos de los chatbot's de IA en la sociedad
« Respuesta #3 en: 11 Marzo 2023, 15:32 pm »

En mi opinión, es una herramienta más a disposición nuestra, y en ultima instancia depende del que la use.

Todas estas tecnologías son propiedad de los gigantes del sector IT, que tienen sus propios intereses. Ahora piensa que tienen en sus manos el arma de ingeniería social definitiva: ¿no la van a usar?


« Última modificación: 11 Marzo 2023, 20:50 pm por Blowfish » En línea

Blowfish

Desconectado Desconectado

Mensajes: 30



Ver Perfil
Re: Efectos de los chatbot's de IA en la sociedad
« Respuesta #4 en: 12 Marzo 2023, 03:51 am »

Cita de: Serapis
ChatGPT, marca un antes y un después... quizás no tanto sus capacidades, como por el hecho de que esté a disposición de todo el público de forma libre.

A veces tienes la rara sensación de que entiende lo que le escribes. Para verificar que no realiza copy-paste, nada mejor que exponerle un algorimo del que tengas la certeza que no hay ninguna copia disponible en la red... pero le das unas instrucciones tortuosas (yo lo he hecho), luego le pides que haga el código y lo hace correctamente (como digo subóptimo prácticamente siempre), luego le preguntas 'por qué el código del algoritmo funciona para resolver el problema descrito' y te da indicaciones bastante certeras, con indicaciones que incluso tú no le diste en las instrucciones, lo que te deja la sensación de que ha entendido (a menudo mejor que muchos usuarios que vienen al foro a preguntar  :silbar: )...

Es que en ese punto el impacto social es revolucionario. Por poner un ejemplo, a mi me gusta escribir, soy creativo, pero no se dibujar; pues con una herramienta de IA podría escribir el guión de un comic/manga y generar las imágenes.

Citar
Como tal yo no lo llamaría IA...
Marca un punto de inflexión porque es una base sólida para la semántica del lenguaje humano, aumentada con la potencia profunda de acceso a datos y una capacidad de aprendizaje. Aunque la derivación de ese aprendizaje, está por ver... puede acabar con el tiempo convirtiéndose en un 'idiota', si se entrena con 'gente idiota'...

De momento NO es una IA, es decir, se puede entrenar en campos específicos para permitir que un profesional (que pueda corregir errores) incremente su productividad, pero cada vez tenderá más a la perfección en ciertos campos. Sobre todo si como tú dices el que usa esta herramienta sabe generar el contexto adecuado.

Sin embargo, sí existe la posibilidad de que se supere el nivel actual. Porque pueden entrenarse mutuamente dos sistemas que emulan respectivamente los roles de alumno y profesor. ¿Lo veremos? Si se llega a desarrollar una IA auténtica el progreso será exponencial, un día el mundo habrá cambiado de golpe.
En línea

Tachikomaia


Desconectado Desconectado

Mensajes: 1.424


Hackentifiko!


Ver Perfil
Re: Efectos de los chatbot's de IA en la sociedad
« Respuesta #5 en: 12 Marzo 2023, 03:59 am »

En cuanto al video de Raiden:
¿Así que deberíamos tener miedo o luchar para que no se usen IAs, porque van a hacerse pasar por humanos, a la gente no le va a gustar, y van a querer que todos estén controlados con lo cual se perderá la opción de ser anónimo en Internet?

Quizá soy demasiado estúpido como para creerlo, aunque un trámite tuve que hacerlo dando una cuenta de Google (me hice una trucha porque no quiero conectar la mía con mi nombre real y demás) y otro trámite también tengo que hacerlo por Internet, lo cual no tiene un pelo de lógica porque he estado en los sitios físicamente, vas para que te digan que vayas a tu casa, donde ves cosas que no entiendes del trámite y adivina qué... No se responden por correo, debes ir personalmente :rolleyes:

Whatever. Se debería considerar delito hacer IAs que simulen ser humanas teniendo cuentas en redes sociales. Se debería buscar y castigar a quienes hagan eso. ¿No? Espero que aparezca Bart Simpsons pescando para corregirme, me refiero a un forero cuyo nombre no recuerdo. A menos que hagan concursos tipo "una de estas 10 cuentas es manejada por una IA, adivina cual". Si las personas te envían links hacia una de esas cuentas sin darte esa info, ya no sería culpa de una empresa o gobierno dictatorial.

¿Dices que no se considerará delito y/o que no se buscará/castigará suficiente a los culpables y/o que no se les encontrará? Bueno, de hecho acabo de leer una noticia antigua de que hicieron pelota a una muchacha por publicar un videojuego medio feminista, y que el FBI como que nada hizo. A ver, te busco lo que leí
https://es.wikipedia.org/wiki/Gamergate
Las investigaciones, que estaban plagadas de problemas jurisdiccionales, en última instancia se cerraron con el FBI no logrando identificar a los autores de algunas amenazas y negándose a enjuiciar a otros.

Bueno, otra vez... de hecho he estado pensando que hubiera sido mejor que no se revelase cómo hacer cuchillos y otras cosas que pueden usarse para mal... pero una "IA" que habla no me parece que pueda hacer daño... Mientras no se use en cuentas simulando ser humanos.

También me pasó de comentar a un abogado que un médico me mintió sobre el efecto de un medicamento y me dijo "si ud se va a poner a demandar a cada médico que ud cree que le mintió...", es decir, no es mi idea demandarlo, lo que digo es que al parecer hay más delitos no castigados de lo que uno cree, o que los abogados no tienen interés en castigar.

Entonces, probablemente debería preocuparme por lo que planteas, pero por alguna razón, no me convence.

¿Cual sería el grave problema de que las IAs se hagan pasar por humanos? El mismo video habla de que humanos usan tecnología para estafar (deepfake y catfishing), el problema ya existe ¿qué cambiará? Que lo hagan humanos usando IAs o las IAs mismas no hará mucha diferencia, o bueno, si lo hacen IAs será peor, pero... ¿en serio están tan desesperados por joder a la gente que van a hacer eso? ¿sería como el final del Internet útil, todo sería pan y circo o estudiar para ayudar al gobierno a seguir? Me cuesta creerlo pero, leí que Hitler en cierto punto dejó de espiar para el gobierno (supongo que estaba en una situación similar a la que planteas) y empezó a hacer de doble espía, o algo así ¿habrá que hacer lo mismo decís?

Me gusta ser anónimo, obviamente. ¿Qué recomiendas, no usar las IAs salvo en tu propia máquina sabiendo el código?
« Última modificación: 12 Marzo 2023, 04:04 am por Tachikomaia » En línea

Blowfish

Desconectado Desconectado

Mensajes: 30



Ver Perfil
Re: Efectos de los chatbot's de IA en la sociedad
« Respuesta #6 en: 13 Marzo 2023, 00:47 am »

En cuanto al video de Raiden:
¿Así que deberíamos tener miedo o luchar para que no se usen IAs, porque van a hacerse pasar por humanos, a la gente no le va a gustar, y van a querer que todos estén controlados con lo cual se perderá la opción de ser anónimo en Internet?

La hipótesis que describe el vídeo es que se usaría la "IA" como excusa para crear una amenaza ficticia que justifique la implantación de un pasaporte digital. Un ID digital que podría ser el complemento a una divisa digital que permita reastrear las transacciones económicas en tiempo real.
En línea

Páginas: [1] Ir Arriba Respuesta Imprimir 

Ir a:  

Mensajes similares
Asunto Iniciado por Respuestas Vistas Último mensaje
Proyecto I.A (chatbot) - Analisis y Soluciones
Programación C/C++
ella. 1 7,310 Último mensaje 24 Julio 2011, 03:39 am
por auzting
Programacion de chatbot con IA
Programación General
EArgentum 3 8,274 Último mensaje 11 Noviembre 2017, 12:13 pm
por Evaristocrates
[PYTHON] ChatBot que aprende
Scripting
<Trocutor> 4 6,080 Último mensaje 10 Septiembre 2017, 03:37 am
por overxfl0w13
[SOURCE-CODE] ChatBot Samples VB.NET
.NET (C#, VB.NET, ASP)
**Aincrad** 2 3,053 Último mensaje 27 Abril 2018, 01:04 am
por **Aincrad**
Chatbot
Mensajería
Aloha34 2 2,620 Último mensaje 6 Junio 2019, 09:47 am
por Hulk33
WAP2 - Aviso Legal - Powered by SMF 1.1.21 | SMF © 2006-2008, Simple Machines