Foro de elhacker.net

Hola, vereis, ultimamente he estado pensando en lo rapido que esta avanzando la tecnologia y ordenadores en general, y, por otra parte, el hecho de que algunas cosas que tenemos ahora eran impensables hace mas de dos decadas (o mas).

Entonces, y, dada la situacion, ¿hasta que punto seria posible implementar las leyes planteadas por Isaac Asimov en un futuro?. Y, bueno, comentar que no me refiero solo a los robots que menciona en su novela, sino mas bien a toda tecnología que pueda aparecer eventualmente.

Dicho sea de paso, quisiera comentar que en este tema, ademas de las tres leyes que menciona, tambien quisiera incluir la "ley cero", y, bueno, para los que no han leido o desconocen el tema, quisiera añadir un apunte de estas

https://es.wikipedia.org/wiki/Tres_leyes_de_la_rob%C3%B3tica (https://es.wikipedia.org/wiki/Tres_leyes_de_la_rob%C3%B3tica)

1a ley: Un robot no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
2a ley: Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ª Ley.
3a ley: Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1ª o la 2ª Ley

Ley "cero": Un robot no hará daño a la Humanidad o, por inacción, permitir que la Humanidad sufra daño.

Por mi parte, no digo que sea imposible, pero de momento no seria viable (o muy dificil) conseguirlo a corto y medio plazo: no obstante, creo que la segunda ley es una excepcion (o, almenos, la primera parte), ya que menciona que "un robot debe obedecer las órdenes dadas por un ser humano", y, bueno, esta tarea es la que esta realizando toda maquina, ordenador, etc.

Muchas gracioas por vuestra atencion, y, bueno, saludos.

Yo creo que en 10-20-30 años se va a avanzar una barbaridad, actualmente ya hay robots, muchos ni los conocemos y no paran de desarrolarse.

Por ejemplo:

http://www.culturasocial.org/los-10-robots-humanoides-mas-avanzados-que-existen/

Pero hay muchos mas, sobre todo militares, donde se desarrolan mucho.

Por lo tanto , si se desarrollan robots militares, seran para matar, por lo tanto las leyes estas no se aplicaran.
Por otro lado, supongo podrian ser hackeados para el interes que fuera.
Ademas de que si tan evolucionados son, podrian llegar a autoreplicarse o tomar conciencia, incluso tomarnos a los humanos como una plaga, o como un peligro para ellos.

Mi humilde opinion.

Da mucho que hablar y me parece interesante, no he leido el libro de Isaac Asimov.

Saludos.

Un dron es técnicamente un robot y ya estamos viendo como con este bicho no se cumplen esas leyes con los drones de combate.

Yo creo que esas leyes están más pensadas para la 'inteligencia artificial' propia de los robots de la ficción de Asimov.

Si se va a crear un robot con inteligencia artificial capaz de tomar decisiones (no programadas) por sí mismo, sería muy peligroso que se tornasen en contra de cualquier ser humano. Sobre todo y especialmente con robots de combate y armados.

Creo que miras demasiadas películas...  :)

Saludos!

Asimov era un utopista, si lees sus novelas veras que la gente practicamente nunca intentó violar las reglas de la robótica y de todas formas por la naturaleza del cerebro positronico era dificil lograrlo

Hoy dia es muy dificil que las tengan... primero tienen que saber que es un humano y entenderlo, basicamente hasta que no necesites psicología para robots, estas leyes no son utiles

:xD

Bueno, pongamos las cosas en contexto.

Asimov fue un escritor prolifico, pero mucho. Pero su "ciencia ficción" aunque hay que reconocerle también su faceta divulgativa (que es enorme y abarca muchas áreas) es mas "imaginativa" que realista. Nunca fue un escritor de "ciencia ficción dura", sino que orientó su obra mas hacia la fantasía.

Su "cerebro positrónico" no es mas que un nombre bonito dado a algo inexistente y sin base. De hecho tecnicamente no veo que ventaja tendría un "cerebro" que funcione con electrones de antimateria (en todo caso me parecería algo muy peligroso). Esa un nombre "resulton" para la sci-fi de la época. Tengamos en cuenta que la obra de Asimoc empieza en la década de los años 40 y 50. En la época de la preguerra y todo eso.

Aunque fue un divulgador de ciencia extraordinario, ver su obra de ficción como algo "serio" es un error. Sus novelas están llenas de esas fantasías y tienen mas de psicologia e historia que otra cosa. Sus obras sobre robots son cuentos y novelas sobre la naturaleza humana con un enfoque original, como la famosa "Franquestein" es una obra sobre el comportamiento humano enfocado desde "fuera del mismo".

En otra de sus sagas incluso se mete en una ciencia inexistente teórica (que no tiene mucho sentido) llamada "psicohistoria", que termina fundiendose con la saga de los robots y termina metiendose en jardines místicos espirituales bastante graciosos.

Sus "leyes" no son mas que un reflejo de los miedos de la época, del "complejo de franquestein". El formuló unas "leyes" que asumió definirían una diferencia fundamental entre sus personajes humanos, y los que no lo son. Jugó de hecho mucho con ellas viendo como podrían torcerse, entrar en conflicto, etc. Pero no son un intento "serio" de definir unos modelos a seguir.

¿Puede un robot tomar consciencia de su mismo?

No lo sabemos. Si definimos un robot como "un artefacto construido por el hombre con un propósito" entramos en un territorio inexplorado. No sabemos en realidad que es la consciencia o como definirla exactamente. O mejor dicho, podemos darle una definición, pero no podemos comprobarla.

Cualquier persona "sabe" que es consciente, pero no tiene forma de saber que otra persona lo es también. Asume que lo es por el principio de que "yo soy una persona y soy consciente, otras personas también deben de serlo porque no es lógico pensar que soy la única persona consciente". Pero no podemos "meternos" dentro de otra cabeza y comprobar que es consciente.

Tenemos eso si algunos "tests" como el famoso de Turing, que se ha demostrado no es lo que se dice muy fiable. Hay programas que son capaces de engañar bastante bien a las personas simulando una conversación inteligente, y sabemos perfectamente que detrás de esa conversación no hay mas inteligencia que la que podamos asignar a un aspirador.

¿Podría crearse una "forma de vida" mecánica que evolucionara por si misma?

Teóricamente si desde luego, pero eso de momento está fuera de nuestro alcance a nivel tecnológico (no sabemos durante cuanto tiempo). Una forma de "vida" por asi llamarla construida para autoevolucionar sería algo posiblemente incomprensible para nosotros a medio plazo. La evolución la llevaría... no sabemos a donde. Hay formas de "vida" extremadamente simples que son muy peligrosas (como algunos virus) y no tienen ni consciencia ni inteligencia, solo capacidad de infección y autoreplicación.

El que quiera leer algo de ficción de ese estilo, le recomiendo el libro "El Invencible" de Stanislaw Lem, donde aparece una "forma de vida mecánica" extremadamente peligrosa, pero carente de inteligencia o consciencia como tal como ejemplo de algo "parecido" a lo que plantea Hason y que teoriza sobre una forma de "vida mecánica" de ese estilo, pero producto de algo completamente diferente.

El pensar en "robots humanoides que persiguen humanos" es algo ridículo, una expresión del miedo a lo que no se conoce y poco mas.

Haber, si,reconozco que he visto demasiadas peliculas, y cuando digo demasiadas, son demasiadas.

Buscar robots militares, vereis que hay unos cuantos, teledirigidos, con capacidad para que entre un humano en su interior, y autonomos programables, estan avanzando mucho en el campo militar, y por supuesto estos robots son para matar y destruir.

En cuanto a lo que he comentado de:

Ademas de que si tan evolucionados son, podrian llegar a autoreplicarse o tomar conciencia, incluso tomarnos a los humanos como una plaga, o como un peligro para ellos.
 
No me refiero ahora, pero si continua evolucionando, no sabemos hasta donde llegaran, dile tu por ejemplo a uno de la epoca romana, que iba a haber lo que hay ahora, y no se lo creeria, de igual forma, vete tu a saber que tecnologia lograremos, ya no dentro de 30 años, si no dentro de 1000 años, puede ser algo sorprendente.

Si tomaran conciencia, podrian pensar que somos peligrosos para ellos, jajaja, lo he pensado por la pelicula virus.

Me gustaria leer el libro que comenta Orubatosu, pero si no esta la pelicula, de momento no aunque he ojeado la trama del libro y parece muy interesante, vamos, del tipo de relatos que me van.

Si tengo algun rato pondre robots militares ya vereis, hay unos cuantos,los vi en su dia, mejor buscarlos y ponerlo alguien.

Saludos.

La autoreplicación es un concepto mas viejo que el mear, es lo que se conoce como "maquinas Von Newman" aunque el concepto no es solo suyo.

El principal problema que le veo es que el tema es terriblemente complejo, y si se lleva a la practica se empezará posiblemente con nanomáquinas autoreplicables.

Y de ahi a una consciencia... media un abismo (o dos abismos)

Un dron ya sea de combate o civil, no es mas que una maquina tonta. No se le puede aplicar a este caso. Si, pueden tener cierta "inteligencia artificial" para determinar ciertas cosas pero ni de lejos ni a años luz están cerca de lo que Asimov quería expresar.

Estos drones siempre cumplen una rutina implementada y no son capaces de ir mas allá de ello. De hecho me atreveria a decir que este es el caso de la gran mayoria (por no decir todos) de los robots que conocemos.

Todos ellos "piensan" en base a con lo que fueron programados y no pueden salirse de su rutina y pensar por ellos mismos. Por ponerlo de forma simple, por muy "badass" que sea un dron militar, si no le implementas una funcion para reconocer a a los aliados y si no haces una llamada a esa funcion antes de que el robot se ponga a disparar o soltar bombas, matara a todos igualmente.. de hecho, no sabe que esta matando a alguien, solo sabe que tiene una llamada a una funcion que le dice que accione cierto mecanismo.

Eso bajo mi punta de vista no es inteligencia tal y como lo conocemos nosotros. Solo son rutinas. Si a un robot domestico no le implementas una funcion para lavar platos, no le enseñas lo que es un plato, un grifo, el agua, el detergente y todas las variables, cuando le digas que te lave los platos, lo mas seguro es que te tire un "Exception" y se te mande lavarlos a ti :/

Por eso, esas leyes no son aplicables. Porque no tenemos una inteligencia artificial capaz de comprender las reglas ni a que se aplican.

Saludos

Con todo esas "leyes" si queremos llamarlas así al menos tienen cierta coherencia, excepto la "cero" que si que entra dentro de la mas pura fantasía.

No obstante como el mismo autor hizo en varios de sus cuentos, esas leyes no son perfectas, tienen "agujeros lógicos".

Por ejemplo "Un robot no puede dañar a un ser humano o permitir por inacción que sufra daño"

Para eso, el robot debe de tener un patrón que le permita reconocer a un ser como humano, y ese "prototipo" por así llamarlo podría manipularse para que solo reconociera como tales a los que el fabricante deseara (lo que ocurre en algún cuento).

Lo curioso es que en la fantasía de Asimov, esas leyes no son "software", sino que están inscritas en la misma estructura del "cerebro". Es decir, formarían en realidad una parte de la misma estructura sobre la que se contruye ese cerebro.

A partir de ahí, podemos suponer que o bien se trata de unas instrucciones al mas bajo nivel, imborrables (que podrían ser parcheadas de algún modo, engañandole) o formar parte de la misma estructura de ese cerebro. Algo así como que un procesador de 32 bits no puede acceder a la dirección de memoria "cinco millones" simplemente porque no puede direccionarla.

Tengamos en cuenta que Asimov era científico (aunque no ejercía), novelista y divulgador. Sus conocimientos de informática eran los de la época, donde los ordenadores eran enormes, toscos y muy simples. Sus leyes son simplemente un marco literario para enmarcar sus historias, y un reflejo psicológico del miedo a la tecnología imperante en esa época.

Pretender en realidad encontrar una "explicación" moderna a sus cuentos y novelas puede ser entretenido, siempre que no esperemos en serio sacar algo de verdad.

Algunos autores de hecho indican que en el caso de que algún día creemos una inteligencia puramente mecánica, esta posiblemente sea muy diferente a la nuestra. Nuestra forma de pensar está relacionada fuertemente con nuestro cuerpo físico y una carga importante de comportamiento instintivo. Un ordenador "sin cuerpo físico" por así decirlo carecería en principio de muchas de las motivaciones o intereses de un ser humano.

¿Dominación de otros? ¿para que?. El ser humano tiene a menudo impulsos de dominación y poder pero ¿que sentido tendría eso para una inteligencia en un ordenador?.

Y al menos a día de hoy nos encontraríamos con un problema, y es este: Supongamos que creamos un programa terriblemente complejo que aparentemente tiene pensamiento propio, capacidad de decisión... que puede conversar con un ser humano y convencerle de que está vivo y consciente.

¿Eso es suficiente como para aceptar que lo es o nos estaríamos engañando a nosotros mismos?

Cierto, el mas puro ejemplo de porque la ley 0 es pura fantasía es la pregunta: ¿Que haría ese supuesto robot, para obedecer la ley #0, si la causa de extinción, somos nosotros mismos?

Podemos suponer que tenemos robots inteligentes hasta que realmente nos detengamos a pensar que es la inteligencia aplicada a una maquina. Tiene un "smart"phone inteligencia o se le llama así solo por el llamarlo de algún modo ?

Suponemos que Google Alpha Go es una maquina inteligente capaz de ganar al campeón mundial de Go, pero que pasaría si el contrincante hace una excepción en el juego y empieza a hacer movimientos los cuales no estaban implementados en la lógica del software? Si por ejemplo su contrincante le quita una ficha o pone una ficha donde no se puede? Seria capaz esta maquina inteligente de entender eso y adaptarse ? .. Probablemente.. no.

Saludos

Unos enlaces a unos robots militares:

https://mundo.sputniknews.com/fuerzasarmadas/20160803/1062611787/wall-e-ruso.html

http://www.xataka.com/robotica-e-ia/el-temible-robot-de-combate-ruso-es-real-y-estara-equipado-con-un-potente-armamento

http://www.cubadebate.cu/noticias/2016/08/25/octobot-primer-robot-blando-autonomo-tiene-forma-de-pulpo/#.V-WXHMnmjcs

https://www.youtube.com/watch?v=ADL-fl67PUM

https://periodismo-alternativo.com/2015/10/21/rusia-crea-robots-militares-dotados-de-una-mente-colectiva/

He buscado un poco, seguro hay muchos mas y siguen desarrollandose, sobretodo los militares, con lo cual, solo es tiempo ver cosas sorprendentes, pero de ahi a ser librepensadores no creo como comenta #!drvy.

Saludos.

Errr...  

:P

Se refieren a las leyes de la robótica de Asimov?
Esas extraídas de los relatos, cuentos y novelas de.. ejem... ciencia ficción?

escritas por Asimov?

Jejejej está guay. Yo me he leído la fundación (la saga) y casi todos de los robots. Estamos muy lejos, yo creo. Y nunca, nunca se llegará a esa "perfección" tan eficiente y eficaz, creo yo. Pero bueno, nos podemos acercar mucho.

Pero bueno, ojo, yo he flipado bastante con una noticia que he visto antes por Facebook, que parece ser de esta gente de Stanford, no sé, están jugando en otra liga parece:
http://cs.stanford.edu/people/karpathy/deepimagesent/

Te coge una imagen, y te da una descripción. Claro, el miedito me viene cuando ves las herramientas de parsear del lenguaje (de hecho, está para varios idiomas) que tienen, que realmente funcionan, quizá no siempre, pero la mayoría de veces sí:
http://nlp.stanford.edu:8080/corenlp/

Es una pasada realmente esta gente. Pero bueno, leyendo un poco como va, es probable que sea algo estadístico con bases de datos inmensas también: buscas patrones, los comparas, hay unas palabras asociadas a esos patrones, y las combinas de manera lógica. Pero.... no sé, no sé si es del todo "humano" eso, aunque puede que pueda funcionar, no lo sé, ni soy quién para saber. Bueno, soy un humano. Pero no recuerdo como aprendí a reconocer las imágenes, aunque no creo que fuera con bases de datos inmensas de antemano ¬¬. Pero qué sé yo, Platón dijo que "conocer es recordar". ¡A saber! El cerebro sigue siendo un misterio. Los neurofractales galácticos:
http://pijamasurf.com/2011/04/el-cerebro-es-un-espejo-del-universo-neurofractales-galacticos/

Al igual que lo de "inteligencia artificial", eso, si me permiten, es puro marketing... Llámalo: "algoritmia cognoscente estadístico-progresiva" o algo así, pero ¿"inteligencia artificial"? Mmmmmm... ¬¬ Pero bueno, no sé, la verdad que se hacen cosas impresionantes, lo flipo bastante, y tampoco sé tanto de inteligencia artificial. Ojalá sirva, aunque creo que hay muchas ganas de vender la moto a veces. Las matemáticas no lo son todo en la mente. Y la programación juega con muy pocas cosas: objetos, listas, números, texto, funciones, ... No sé, no sé.........

Pero si algún día llegáramos a algo de todo eso, creo que deberían tenerse en cuenta las leyes de la robótica de Asimov, sin duda. Aunque los anti-robots buscarían el hack para apagárlas o que se autodestruyeran rápido xD Y piénsenlo, un robot podría guardar la genética del humano en caso de extinción, y esperar a una civilización más inteligente, y así poder retomar la especie! xDD jejejejej

Pero lo que sí que pienso (seriamente) es que la Ley 0 es clave (hasta entre humanos). Y hacer unos derechos humanos recordables por todos. No de N páginas, sino de 20-25 frases a lo sumo. Lo básico, sintetizado, que cualquiera pueda aprenderse y recitar en menos de un minuto. Pero bueno, no sé, estamos con el marketing, el dinero, etc. Ni siquiera hemos roto barreras muy básicas antes.

Pues no veo porque no puede llamarse "IA"

Ni siquiera tenemos consenso sobre lo que realmente es inteligencia. Si asumimos que la inteligencia es la capacidad para resolver problemas, tomar decisiones, reconocer situaciones y cosas por el estilo, es perfectamente aplicable.

Porque una cosa es inteligencia, y otra es consciencia.

Y aunque podamos aceptar eso, tampoco hemos definido exactamente que es la inteligencia o la consciencia. Ni siquiera sabemos si la consciencia o el "yo", el famoso "cogito ergo sum" es un absoluto booleano o tiene gradientes. En caso de que sea el segundo caso, ni siquiera sabemos en que punto de la escala podríamos estar.

Veamos, un simple "Roomba", esos cacharros que usan los frikis de youtube para pasear a sus gatos tienen una "inteligencia artificial"

Pueden reconocer su entorno a través de sus sensores (observan). Construyen un mapa de su entorno para desplazarse por el mismo, saber donde han estado y donde tienen que ir (recuerdan y planifican acciones). Reconoce el tipo de suelo sobre el que está para adaptar su potencia de trabajo, crea patrones de movimiento, cuando tiene la batería baja va a recargarse ¿tiene hambre y va a comer?

Podríamos decir que no, que es un simple "trasto" con un programa que sigue sin excepciones pero ¿acaso no hay formas de vida que siguen patrones simples?

La "magia" mística que se le da a los cerebros viene en buena medida de que no tenemos ni repajolera idea de como funcionan internamente. Decimos que "un programa de reconocimiento se limita al uso de grandes redes neuronales"

Estupendo, y ¿como reconoce un animal a su presa o a su alimento? ¿por magia?

No, obviamente los seres vivos también tienen un sistema de reconocimiento de patrones. Mas sofisticado en muchos casos y en algunos otros muy simple. Nos guste o no es así.

Claro, eso no quiere decir que "mañana" vayamos a crear una máquina consciente o que al menos nos engañe a todos conversando con nosotros como si lo fuera.

En mi opinión, porque si esto es inteligencia, estamos poniendo la línea conceptual muy pronto. Pero no lo sé, no lo sé. En cualquier caso, AI se queda.

Lo que no sé porqué nadie se da cuenta de cómo intentamos imitar la naturaleza alejándonos tanto de ella. No veo a los ingenieros practicando la meditación, consumiendo la naturaleza en su estado puro, experimentando con su propio... engine (cerebro), planteándose las bases, conspirando, llevando al nodo que son al extremo, si realmente buscan la verdad, no la encontrarán en una realidad edulcorada. No sé, luego vemos a los científicos como el gremio más creyente de Dios (me parece normal, lo raro es que los demás no se lo planteen, y no hablo de iglesias, hablo de lo que ves cada día y toda esa magie que ni la ciencia abarca ni podrá jamás, pero seguimos con toda la prepotencia intelectual), médicos y educadores como los gremios más fumadores, los políticos como el gremio menos honrado... o los banqueros como los más antisistema (ejem, crisis, ejem). Y la gente se te sigue quedando así con la mirada esa de flúor... Y son datos, compruébenlo. El brainwashing es muy grave. O que no te afecte es muy grave, ya no lo sé. Pero es grave... Entre el ego y la avaricia, la esquizofrenia se ha quedado en algo tan residual.

Llámame conspirador, en el mundo hay demasiada gente, y demasiada es demasiado normal, mientras la verdad sigue siendo suministrada en dosis de psicopática normalidad. Investigar es también tomar caminos inescrutados.

¿Y porque tenemos que imitar a la naturaleza?

Las máquinas no son organismos naturales, no veo porque tenemos que seguir caminos orgánicos para maquinas inorgánicas. Puede que las soluciones sean diferentes.

Y no veo en que "meditar" va a ayudar a nadie a crear un mejor programa de IA en cualquier campo

Orubatosu:


Porque la inteligencia la creó la naturaleza, naturalmente. Tú y yo somos inteligencia natural. No digo calcar, pero sí esforzarse un poco más en parecerse más. Calcar no, por el mismo motivo que expones: materiales distintos requieren de soluciones distintas.


Bueno, meditar, hay muchas formas de meditar. Pero en común está la introspección. Es algo básico para crear inteligencia: escucharla, observarla, estudiarla de cerca. ¿Y qué más cerca que la tuya misma?

Al menos aquí no recibo el fluoride stare xD Prefiero las críticas o preguntas

El debate es complejo porque no sabemos que es inteligencia.

La "inteligencia" es como llamamos a muchas cosas, pero a menudo la identificamos con la habilidad para resolver problemas nuevos.

Es decir, un pájaro hace un nido, pero ahi no interviene una "inteligencia" como tal. Simplemente sigue su instinto ya que no sabe hacer un nido "de otra manera". Solo sabe hacerlo de una forma, el y toda su especie.

Pero un animal que quiere comer un gusano o un insecto que está en un agujero, y usa un palo para sacarlo está resolviendo un problema usando un elemento externo. Entonces diremos "¡ Aja... eso lo hacen los monos que son muy parecidos a los humanos! "

Si, pero también lo hacen por ejemplo los cuervos, que son pájaros. Igual que esos pajarracos han aprendido a abrir bolsas de basura y de hecho se de lugares donde la basura de debe de dejar bajo una red o en jaulas de tela metálica para que no las abran. ¿Es eso inteligencia? (la del cuervo digo)

Porque entonces un robot, un programa puede hacer eso hasta cierto punto. Se puede plantear un problema original y nuevo dentro de unos parámetros y muchos programas pueden solucionarlo. Ya sea por intentos sucesivos, ya sea por otros métodos. ¿Son inteligentes o es un programa?

De hecho veo complicado que copiemos mucho de la inteligencia humana, porque no sabemos como funciona. Llamamos "redes neuronales" a algo que "suponemos" copia a redes de neuronas, pero que en realidad no sabemos si es cierto

Nos hemos inspirado en ellas, y tienen comportamientos típicos de la inteligencia, como es el aprendizaje, flexibilidad, tolerancia a fallos y otros pero son un programa

Eso si, a menudo nadie sabe como funciona "por dentro" lo que se organiza, pero sabemos desde luego que es un programa.

Pero, no sabemos como pensamos nosotros. Conocemos hasta cierto punto la estructura del cerebro, las funciones de sus partes (hasta cierto punto solo), y como funcionan las neuronas y todo eso pero... no tenemos ni idea de verdad de como funciona "todo el tinglado"

La IA debe de regirse simplemente por un principio: ¿Funciona?

Si funciona para el proposito que queremos estupendo, si no... al cubo dela basura. La selección se encargará de que usemos los algoritmos adecuados, pero no tenemos realmente ni idea de si seremos capaces de crear una IA "de verdad" y cuando lo hagamos, si seremos capaces de reconocerla como tal, y en ese caso posiblemente tampoco tendremos ni idea de como funciona por dentro.