Allá por los años 40 el gran Isaac Asimov se inventaba las tres leyes de la robótica las cuales aparecen de una u otra forma en muchas de sus obras. El objetivo de las tres leyes es proporcionar “un código básico de conducta” para proteger a los humanos de los robots.
Ahora David Woods y Robin Murphy, ambos ingenieros, han reescrito estas tres leyes y proponen otras que se ajustan más a la realidad y crean el marco para una interacción segura entre hombres y máquinas. Claro está, las propuestas de los ingenieros son más aburridas que las de Asimov. Son estas:
-
Ningún ser humano puede usar un robot sin antes conocer las normas legales y profesionales de seguridad y ética robot del sistema de funcionamiento humano/robot
-
Un robot debe responder a los seres humanos de manera apropiada a sus funciones
-
Un robot debe tener la suficiente autonomía para proteger su propia existencia siempre y cuando no entre en conflicto con la primera y segunda ley
Para quién no las conozca o no las recuerde, las tres leyes de la robótica postuladas por Isaac Asimov dicen lo siguiente:
-
Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser humano sufra daño.
-
Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto si estas órdenes entran en conflicto con la Primera Ley.
-
Un robot debe proteger su propia existencia, hasta donde esta protección no entre en conflicto con la Primera o la Segunda Ley.
Personalmente y aunque las propuestas por Woods y Murphy se ajusten más a la realidad, me parecen muy ambiguas y me sigo quedando con la de Asimov, donde va a parar. Concluyendo, ¿tus tres leyes para evitar problemas entre humanos y robots en el futuro para no terminar como los de Battlestar Galactica?
La primera que han propuesto es más que utópica. No sólo hay que leerse el manual de instrucciones del robot (todos sabemos que leer los manuales de las cosas da cáncer o algo peor) sino q
Pues sí, son muy ambigüas. Además no acabo de entender qué tiene que ver la última ley: “Un robot debe tener la suficiente autonomía para proteger su propia existencia siempre y cuando no entre en conflicto con la primera y segunda ley” con la primera: “Ningún ser humano puede usar un robot sin antes conocer las normas legales y profesionales de seguridad y ética robot del sistema de funcionamiento humano/robot”
Según estas leyes, si un ser humano “conoce” las normas legales y profesionales de seguridad del sistema de funcionamiento humano/robot (remarco la palabra “conoce”) entonces puede ordenarle a un robot que se autodestruya y el robot se autodestruirá porque el humano “conoce” las normas pero no las respeta (porque entiendo que una de las normas de funcionamiento humano/robot será algo así como: “No romperas un robot, ni provocaras su rotura de manera intencionada”)
La primera que han propuesto es más que utópica. No sólo hay que leerse el manual de instrucciones del robot (todos sabemos que leer los manuales causa la muerte por combustión espontánea del lector), sino que además hay que leerse el código penal.
Asimov rulea nadie mas, quien se creen esos…
+1
+1
+1 xD
+1
+1000000
+1
+∞ XD
+∞
+∞+1
+∞+2
OVER 9000!!!
+1 siiii1!
Será que estudio leyes, pero dejenme decir que las leyes propuestas por los ingenieros son todo menos ambiguas, al menos no menos que las de Asimov (añadiendo que, para quien haya leido algo acerca de su obra, las tres leyes originales de verdad que si son ambiguas, al grado que muchas de las historias de Asimov giran en torno a problemas causados por lo que las maquinas y/o humanos interpretaron de dichas leyes. A proposito las de Asimov son leyes que procuran evitar conflictos entre humanos y robots, pero que fueron redactadas en una “edad” temprana de la robotica y que distan de ser confiables y a fin de cuentas prácticas). Considero que los ingenieros hicieron bien su tarea al momneto de actualizar las 3 leyes (aunque las originales sean más romanticas si gustan), y respecto a la “utopía” de la primera ley… si se enfocan en el hecho de que a fin de cuentas los robots no son más que herramientas eso no los hace muy distintos aun auto, y quiero creer que todos ustedes saben manejar y conocen al menos básicamente el reglamento de transito antes de salir a dar una vuelta con el, no?, tal vez no todos, pero así debería ser.
erá que estudio leyes Es que las Leyes de la Robótica no pueden ser interpretadas como “leyes” en el sentido jurídico. En todas las obras se nota que describen unos principios más complejos a los que responderá el robot debido a su programación empotrada. R. Daneel lo describe casi literalmente en El Sol Desnudo y hay varias obras en donde lso robots ni siquiera saben el texto de las leyes (Robbie, los “Néstors” y algunos de la primera época por ejemplo) pero las cumplen del mismo modo en que un animal cumple con sus instintos alimentarios y sexuales sin que signifique que puedan describirlos. Sin caer en la misma categoría, se parecen más a “leyes de la física” o “leyes de la vida” que a “leyes de la Nación” Por lo tanto. Redefinir la primera ley de modo que obligue a los humanos en vez de a los robots es un despropósito en este contexto. Parece que no entendieron el concepto
Toda norma se expresa lingüísticamente, y toda lengua es ambigua; sin embargo, la genialidad de Asimov fue precisamente ver cuales eran sus ambigüedades y explotarlas (podríamos intentar crear cuentos con conflictos entre estas nuevas propuestas). Por otro lado, la primera de las nuevas leyes más que una “ley robótica” apunta a una regla (moral o jurídica) destinada a los seres humanos; no es tanto una ley PARA los robots, sino una norma PARA los humanos en su relación CON los robots.
La primera es hiperutópica ya que presume que el ser humano es bueno y racional, cuando en realidad es un cabrito que se ha hecho mayor. Asimov ya sabia esto (se ve en muchos relatos y tenia el ejemplo de la II guerra mundial) y por eso impuso sus leyes: un robot como ser inteligente (o preinteligente) no debe causar daño a un humano INCLUSO si se lo ordena un humano. Ahora mismo usando una “herramienta” como un coche ya hay suficientes sinverguezas que se pasan por el forro la ley (código circulación) que deben conocer. Imaginemos que pasaria si dicha herramienta fuera inteligente y funcionará con mucha autonomia (lo cual permitirias esconderse o oculta la responsabilidad humana más facilmente): coches suicidas altamente eficacez (orden: lanzate a 200 por hora contra esa manifestación) o coches bombas más terrorificos (orden: revienta cuando tengas mas de 50 humanos cerca de ti). Al final habria tantas cortapisas para usar los robots que acabarian como ahora los tanques: solo para uso militar.
existe un cuento “robótico” de Asimov, anterior al concepto de las Leyes de la Robótica, en donde autos robotizados (con cerebros positrónicos) atacan a seres humanos … si mal no recuerdo el nombre del cuento es “Sally”
Falta la “Ley Cero”, que Asimov añadió en sus últimos libros: “Un robot no puede dañar a la humanidad, o a través de su inacción, permitir que se dañe a la humanidad.”.
Creo sinceramente que, en el caso de conseguir robots realmente inteligentes, ninguna ley que se les imponga podrá impedir que aparezcan conflictos en la interacción humanos-robots. Y eso mostró Asimov en sus novelas: Que sus leyes no funcionaban adecuadamente para todos los casos.
La Ley Cero Modifica la primera ley : “Un robot no puede dañar a un ser humano o por inacción, permitir que un ser humano resulte dañado siempre y cuando esto no contravenga la “Ley Cero”. Y se la debemos a R. Daneel Olivaw
en el caso de conseguir robots realmente inteligentes, ninguna ley que se les imponga podrá impedir que aparezcan conflictos en la interacción humanos-robots Del mismo modo que ningún antivirus o firewall puede impedir totalmente que… ¿Entendés a donde voy? Pero siempre es mejor tenerlo ¿Qué los lleva a pensar que los mecanismos de seguridad aplicados a robots serían más ineficaces que los aplicados a gruas, sierras eléctricas, o cohetes? Falta la “Ley Cero”, que Asimov añadió en sus últimos libros: “Un robot no puede dañar a la humanidad, o a través de su inacción, permitir que se dañe a la humanidad.”. La Ley Cero fue cuetionada al principio por Giskard y (en las secuelas extraoficiales) hay todo un movimiento de robots en su contra. Personalmente, el razonamiento que lleva al Camarada Daneel (Sí, el “Elías” de mi nombre es por Elijah Baley) a deducir la Ley Cero como corolario de la Primera Ley es totalmente falaz. De la necesidad de proteger a los individuos humanos no se deduce la necesidad de proteger a la humanidad en abstracto del mismo modo que de la necesidad de dar una protección especial a los enfermos no se deduce la necesidad de proteger a la enfermedad. Como individualista estricto, siempre me opuse a la supremacía de la Ley Cero sobre la Primera Ley. Y el “tiempo” parece darme la razón. No le veo sentido a crear un imperio absolutista cuasiteocrático que oprima a los individuos para mayor gloria de la Humanidad en su conjunto
Como individualista estricto, siempre me opuse a la supremacía de la Ley Cero sobre la Primera Ley. Y el “tiempo” parece darme la razón. No le veo sentido a crear un imperio absolutista cuasiteocrático que oprima a los individuos para mayor gloria de la Humanidad en su conjunto.
La humanidad en si es mas importante q la vida de un humano. Osea si tenes hijos lo vas a entender.
Considero sinceramente que las leyes de Asimov se aplican a una realidad sobre la robótica más bien ficticia. La robótica (la de verdad, no la que se muestra en los medios)tiene una tendencia totalmente diferente y la inteligencia que pueda llegar a tener un robot no tiene por qué asemejarse o imitar a la de un humano.
Es absurda la cantidad de dinero e investigación que se gastan en el desarrollo de robots androides que de nada sirven al mejoramiento del nivel de vida y funcionamiento de la insdustria actual.
Los robots de Asimov son humanoides para simplificar la narrativa. El mismo Doctor entendía bien eso que decís. Unos protocolos de protección similares a las Tres Leyes se hacen aún más necesarios en robots industriales de las características que decís
Quedan a la vista las diferencias que hay entre el gran Asimov y dos ingenieros.
Sientan el calor en las palabras de Isaac y el frío de una definición formal.
La diferencia en la primer ley está en que la de Wood y Murphy se aplicada a seres humanos; seres humanos con libre albedrío y poder de decisión para usar un robot A PESAR DE NO CONOCER “las normas legales y profesionales de seguridad y ética robot del sistema de funcionamiento humano/robot”. Y las leyes del DR ASIMOV (me levanto, voy y tomo un sombrero, bebo el agua de un vaso, me pongo el sombrero, me regreso a mi silla, me siento y ahora si me levanto y me quito el sombrero) se aplican A TRAVES DE PROGRAMACION en los cerebros positrónicos de los robots (un saludo a R. Daneel donde quiera que se encuentre). Por lo tanto, la primera ley de los ingenieros NO ASEGURA un funcionamiento seguro y ético del sistema de funcionamiento humano/robot.
la de Wood y Murphy se aplicada a seres humanos; seres humanos con libre albedrío A seres humanos con variables desconocidas. Más impredecible es el clima y no le atribuimos Libre Albedrío ;) De acuerdo en todo lo demás
Los que propusieron eso no son ingenieros. O no deberían serlo!!!
Esta claro que por mucho que pretendar dar un caracter “formal” a las tres leyes (o cuatro, según se vea), existen conceptos como la voluntariedad del robot o su capacidad e inteligencia, que hacen que su aplicación sea inviable. Y en el caso de llegar al punto en que la robótica llegue a ese punto, siempre estará en mano de lo progamadores su aplicación. Mucho love.
existen conceptos como la voluntariedad del robot o su capacidad e inteligencia No sé qué tendrá que ver la inteligencia y todo eso con contruir robots cuyo “cerebro” esté incapacitado para elegir conductas ajenas a esas leyes. Yo, si ser un genio, soy inteligente y no estoy capacitado para querer morirme de hambre, de frío, o abstenerme de coj… de tener relaciones con Jessica Alba si ella me lo pidiera (supongo que su particular programación también se lo prohibe) ¿Qué los lleva a pensar que una programación suficientemente compleja tiene necesariamente que desmbocar en conductas contrarias a los intereses del programador
“Un robot debe responder a los seres humanos de manera apropiada a sus funciones” ¿Que sucede si la funcion es matar? Creo que no deberian de ponerse a cambiar leyes básicas, podría pasarles lo que les paso a los animales del libro “Rebelion en la granja” de George Orwell. Hablando de Orwell, -1 a amazon por lo de 1984.
Prefiero las leyes antiguas, a lo mejor sera que por estas nuevas leyes los robots al final se revelen.
Los ingenieros solo tratan de “actualizar” las famosas tres leyes a la realidad, dudo mucho que en algún momento intentaran “sustituir” a las originales, en todo caso estoy casi seguro de que el hecho de que sean tres leyes también no es otra cosa más que un homenaje a Asimov. Tampoco confundan el mundo del Deber ser y del Ser, las propuestas por los ingenieros no son leyes más “utópicas” que cualquier otra ley o reglamento en cualquier legislación (en mi caso mexicana), insisto que los individuos en cuestión han hecho un buen trabajo al actualizar las tres leyes, lo que sucede es que aquí hay demasiado fanboy o no saben distinguir la labor didáctica de traducir una obra para un mundo ficticio a un mundo real, un mundo donde a fin y cabo los robots ya existen y evolucionan velozmente pero aun no han desarrollado (y tan poco lo harán próximamente) la inteligencia y personalidad que presentan en la obra de Isaac (pa’ los cuates XD), razón por la cual las “nuevas” tres leyes son más funcionales (de ahí que la primera ley aplique más bien a los humanos), aunque siempre, como cualquier otra ley, son imperfectas.
Imposible reinventar las 3 primera leyes cuando son correctísimas, si es cierto que puedan entrar en conflicto entre sí.
Pero estas 3 leyes que ponéis aquí… sin las primeras del gran genio Isaac Asimov son papel mojado.
No creo que en el futuro los fabricantes de robots piensen en el bien de la humanidad de la misma manera que los fabricantes de automóviles no lo hacen, ni los fabricantes de armas ni buena parte de los fabricantes de medicinas, ni la mayoría de los políticos, ni la mayoría de los empresarios, ni siquiera los trabajadores, ni el vigilante del parking, ni la mayoría de nosotros. No es que sea pesimista, es que hay muchas pruebas de que las cosas son así y dificilmente van a cambiar. Nos vamos a meter en un problema con la robótica de la misma manera que estamos desde hace siglos en un problema con la pólvora.
Nos vamos a meter en un problema con la robótica de la misma manera que estamos desde hace siglos en un problema con la pólvora. Ese es el puunto. El problema no es la tecnología en sí, sino el uso que se le da. Los robots no van a venir a “matarnos” por tener “libre albedrío” ni se van a sentir esclavos por no poder elegir dañar a un ser humano del mismo modo que yo no me siento esclavo por no querer salir en bolas a la calle con -5º grados. Pero no nos salvamos del debate político y la lucha militante en su administración. Y no hay que irse a la “robótica”, la transgenia no es mala de por sí pero debe administrarse con sentido social o todo se va al carajo