elhacker.net cabecera Bienvenido(a), Visitante. Por favor Ingresar o Registrarse
¿Perdiste tu email de activación?.

 

 


Tema destacado: Security Series.XSS. [Cross Site Scripting]


+  Foro de elhacker.net
|-+  Foros Generales
| |-+  Sugerencias y dudas sobre el Foro (Moderador: el-brujo)
| | |-+  Respuestas generadas por IA
0 Usuarios y 1 Visitante están viendo este tema.
Páginas: [1] Ir Abajo Respuesta Imprimir
Autor Tema: Respuestas generadas por IA  (Leído 1,211 veces)
Eleкtro
Ex-Staff
*
Desconectado Desconectado

Mensajes: 9.878



Ver Perfil
Respuestas generadas por IA
« en: 1 Octubre 2024, 01:23 am »

Hola.

Considero que alguien debería informar al usuario gerardomunoz de que, por respeto a los demás usuarios y colaboradores / participantes, de ahora en adelante mencione que sus respuestas son generadas por IA cuando vuelva a publicarlas.

De hecho, y en mi opinión, considero que esto debería establecerse como una norma del foro. Y si se detecta que un usuario - que ya esté avisado con anterioridad - sigue generando respuestas con IA sin mencionarlo, pues se le debería sancionar.

No solo es una cuestión de respeto, sino de sentido común. Cualquier persona que utilice IA para generar respuestas en el foro debería dejarlo claro, ya que las respuestas de una IA son totalmente genéricas (en muchas ocasiones no son capaces de profundizar para servir de ayuda) y muchísimas veces hace afirmaciones falsas, que parecen muy creíbles, por que si algo puede hacer una IA es escribir de forma académica, profesional, con carisma y autoridad para terminar convenciéndote de cualquier cosa... hasta que te pones a verificar la información por ti mismo y descubres que no era cierto lo que te dijo la IA. Y no me estoy refiriendo a temas que sean muy abstractos o complejos, la IA puede afirmar cosas falsas hasta con los resultados de simples operaciones de sumar y restar.

Quien utilice servicios de texto de IA generativa tipo ChatGPT a menudo, ya sabrá que lo que digo es tal y como lo afirmo.

Y no voy a entrar en debates innecesarios sobre si las respuestas de ese usuario están o no están generadas IA (SPOILER: si que lo están). Quien esté lo suficientemente acostumbrado a utilizar IA, y quien además conozca las herramientas adecuadas (al alcance de todo el mundo) para detectar frases generadas por IA, ya sabe que lo que estoy afirmando es cierto.

Esto es un foro, y la esencia de un foro no se debería echar a perder permitiendo que cualquier usuario publique respuestas generadas por IA sin avisar de ello. Y ese es el punto, que haya usuarios que copien y peguen la respuesta generada por ChatGPT, como si se tratase de un bot que se pone a responder a las dudas de los usuarios, pero con pequeñas modificaciones para añadir un "¡Hola!" y un "Hasta luego". Creo que eso no es nada correcto. Y si eso se empezase a tomar por costumbre entre más usuarios, y sin que haya unas reglas que lo regulen, entonces esto ya no será un foro, se convertirá en otra cosa distinta (para peor).

Un saludo y gracias por leer.

Atentamente, Elektro.

Las reglas generales del foro: https://foro.elhacker.net/reglas


« Última modificación: 1 Octubre 2024, 21:34 pm por Eleкtro » En línea



Danielㅤ


Desconectado Desconectado

Mensajes: 1.838


🔵🔵🔵🔵🔵🔵🔵


Ver Perfil
Re: Respeustas generadas por IA
« Respuesta #1 en: 1 Octubre 2024, 02:27 am »

Hola compañero Elektro, coincido con tu pensamiento, yo creo que un foro es para ayudar con la experiencia y conocimientos de los mismos usuarios o en todo caso buscar información en Google, pero de ahí que siempre o muchas veces utilicen algo automático para responder, no me parece muy bien y no me agrada, de hecho me doy cuenta que utilizan ChatGPT por la forma de la escritura, además que eso no es pensar, y esa no es la idea de un foro.

También me di cuenta del usuario que comentas que utilizó ChatGPT por ésto al final:

Citar
¡Espero que esto te ayude!

tipico de ese bot y la verdad, molesta eso porque es algo "predefinido" en general por un robot.

Otra razón por lo que me di cuenta de que utilizó el bot es por los pequeños párrafos.

Yo personalmente prefiero que ni usen ese bot incluso aunque lo usen y lo comenten.

Además con respecto a lo que decís de que ese bot se puede equivocar y dar cualquier respuesta que no sea correcta o no sea suficiente, eso es cierto y dependiendo del problema o duda del usuario, esas respuestas pueden generar (sin intenciones) más problemas o daños ya sean en software, al Sistema Operativo o incluso en hardware, y ésto puede pasar porque el bot no es capaz se asumir los posibles riesgos que puede haber si se hace X acción teniendo en cuenta el problema que cada usuario tenga, porque esos problemas pueden ser distintos, particulares, específicos, y por lo tanto requieren respuestas y soluciones específicas.


Saludos


En línea

Tachikomaia


Conectado Conectado

Mensajes: 1.413


Hackentifiko!


Ver Perfil
Re: Respeustas generadas por IA
« Respuesta #2 en: 1 Octubre 2024, 03:05 am »

¿Carisma? xD No sé, pero diría que un bot se reconoce porque escribe de un modo que parece aburrido, no sé explicarlo pero es como "uf, ya dará su lista", por ejemplo. Yo igual doy el beneficio de la duda, pero no sé qué sentido tiene usar un bot para responder cosas, el que quiera ver respuestas de un bot usa un bot, no un foro.
En línea

Eleкtro
Ex-Staff
*
Desconectado Desconectado

Mensajes: 9.878



Ver Perfil
Re: Respeustas generadas por IA
« Respuesta #3 en: 1 Octubre 2024, 20:41 pm »

se reconoce porque escribe de un modo que parece aburrido, no sé explicarlo pero es como "uf, ya dará su lista"

Creo que sé a lo que te refieres. Es como cuando te pones a buscar algo muy simple en Google, por ejemplo: "¿Cómo se guarda la partida en X video juego?", y en los resultados de la búsqueda en Google te aparecen muchísimos artículos, que cuando accedes a cualquiera de ellos te das cuenta que son artículos bíblicos llenos de texto (son así para posicionarse en los primeros puestos de Google), y tienes que hacer mucho scroll hacia abajo en cualquiera de esos artículos hasta poder encontrar la respuesta a lo que estás buscando. Y, por lo general, al final tendrás que leer todo el tocho de texto de principio a fin, por que muchas veces no resulta intuitivo saber donde está la respuesta a tu pregunta. En definitiva, mucho texto que se podrían ahorrar, por que al usuario no le sirve para nada, solo sirve para consumir más tiempo del necesario leyendo.

Pues ChatGPT es así, y sobre todo Gemini... es insufrible en este sentido, escriben mucho texto innecesario antes de concederte la respuesta.

Aunque, de todas formas, a la IA siempre le puedes decir que escriba una respuesta corta y simple, y en la mayoría de ocasiones así lo hará. Pero otras veces, aunque le insistas en que se limite a responder "Sí" o "No", no habrá manera de evitar que se ponga a escribirte una Biblia.
« Última modificación: 1 Octubre 2024, 20:46 pm por Eleкtro » En línea



stack


Desconectado Desconectado

Mensajes: 483



Ver Perfil
Re: Respuestas generadas por IA
« Respuesta #4 en: 2 Octubre 2024, 10:55 am »

Hola, coincido que los mensajes de ese usuario son redactados por ChatGPT, lo uso muy a menudo y se nota la redaccion y la despedida tipica. Y si es cierto que en ocasiones se equivoca y la respuesta no es correcta, ayudo a mi vecina en las tareas del Insti y aveces consulto temas de formulacion quimica y algunas veces no es correcta la respuesta, por lo que creo que ChatGPT debe usarse como apoyo pero hay que buscar mas a fondo. y no publicar en el FORO como si fuera una respuesta de usuario.

Saludos.
En línea

ad maiora natus sum
Danielㅤ


Desconectado Desconectado

Mensajes: 1.838


🔵🔵🔵🔵🔵🔵🔵


Ver Perfil
Re: Respuestas generadas por IA
« Respuesta #5 en: 2 Octubre 2024, 16:29 pm »

Además del usuario mencionado en éste tema que utiliza ChatGPT, también hay otros usuarios que lo usan y no lo informan, por ejemplo éste otro usuario:

Fernando Morales
Anteriormente su nombre de usuario era FernanDX

Si se fijan sus mensajes publicados se puede notar que utiliza ese bot:
https://foro.elhacker.net/profiles/fernandx-u614913.html

Ahh me olvidaba de comentar, que yo personalmente cuando me doy cuenta que hay usuarios que publican respuestas generadas por ese bot y no propias, directamente salto esos mensajes porque ni los leo.
En línea

Eleкtro
Ex-Staff
*
Desconectado Desconectado

Mensajes: 9.878



Ver Perfil
Re: Respuestas generadas por IA
« Respuesta #6 en: 2 Octubre 2024, 21:18 pm »

Ahh me olvidaba de comentar, que yo personalmente cuando me doy cuenta que hay usuarios que publican respuestas generadas por ese bot y no propias, directamente salto esos mensajes porque ni los leo.

El problema, además, es que no podemos conocer las intenciones de la persona que publica una respuesta de ChatGPT sin informar de ello.

Puede ser que esa persona tenga intención de parecer ser alguien muy inteligente cuando en realidad no sabe sobre cierta materia como para poder opinar, o puede que simplemente esa persona quiera ayudar de forma humilde pero no se haya tomado la molestia de informar que la respuesta proviene de una IA. Pero eso no lo sabemos, y en mi caso, que soy bastante desconfiado por naturaleza, me mosquea.

Al publicar una respuesta de una IA, esta forma de comenzar la respuesta debería ser consenso:





Por otro lado, creo que hay excepciones evidentes en las que no debería resultar necesario informar del uso de una IA, por ejemplo:

 ⚫ - Si la persona tiene la capacidad de verificar la información dada por la IA antes de responder a una consulta, y, tras verificarla, tiene la convicción de que la información es correcta. Por ejemplo, preguntarle a la IA cuánto mide la Torre Eiffel de París, y luego confirmar esa información buscando registros confiables en Google.

 ⚫ - Si la consulta se refiere a algo trivial o de bajo impacto, donde el riesgo de error sea mínimo y la IA no pueda influir en decisiones importantes.

(por cierto, esta frase que acabo de escribir aquí arriba, la ha elaborado, en parte, ChatGPT, y yo la he extendido y adaptado a mi manera, por que le he consultado a ChatGPT para que me ayude a pensar en más excepciones donde informar sobre el uso de IA no sea necesario, pero no creo que haga falta mencionar que he usado ChatGPT para esto, para ayudarme a pensar xD, así que me parece el ejemplo perfecto para argumentar estas excepciones.)

Pero de todas formas estas excepciones no las aplicaría a quien se ponga a copiar y pegar la respuesta de una IA sin más.

Un saludo.
« Última modificación: 2 Octubre 2024, 21:44 pm por Eleкtro » En línea



Páginas: [1] Ir Arriba Respuesta Imprimir 

Ir a:  

WAP2 - Aviso Legal - Powered by SMF 1.1.21 | SMF © 2006-2008, Simple Machines