Hagámos un pequeño juego de lógica utilizando las tres leyes básicas de la robótica de ISAAC ASIMOV, que son:
- Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser humano sufra daño.
- Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto si estas órdenes entran en conflicto con la Primera Ley.
- Un robot debe proteger su propia existencia, hasta donde esta protección no entre en conflicto con la Primera o la Segunda Ley.
1. Supongamos que eres un robot, y un árbol va a caer encima de un niño que está jugando en el otro lado de la calle, pero hay un guardia de tráfico con una señal de STOP que te impide cruzar, ¿qué harías?
2. … pero si además te das cuenta de que el árbol va a caerte encima a ti tambén y te va a aplastar, incluso antes de que puedas llegar a salvar al niño, ¿qué harías?
12 comentarios:
Eso únicamente se resuelve estableciendo un orden de prioridades dentro de las tres leyes! Otra cosa sería una situación en la que el aplicar las tres leyes no ayudase a tomar una decisión. Lamentablemente a botepronto no se me ocurre nada...
Me ha parecido muy interesante, voy a seguir leyendo.
Aun así me gustaría invitaros a visitar mi blog (gratis para vosotros). Tengo hasta garantía de calidad: si no te ríes te devolvemos el dinero, jeje.
Saludos
Para dar esta respuesta supondre que es un niño por ejemplo de 6 años o más, es decir, supongo que ya sabe escuchar hablar y caminar, quiero decir que no es un "bebe", asi yo lo que haria es darle una voz, avisandole que se quite que va caer el arbol. de esta manera hago algo por evitar que el niño se lesione o muera, no contradigo al guardia con el Stop y no pongo en peligro mi existencia. otra manera seria la de avisar a los padres o responsables del niño que estan al cargo de la situación. Aun si sólo hubiese sido programado para ver la posibilidad de salvarlo llendo a por el, entonces dudo que tuviera una circuito para hacer los calculos de la caida del arbol, y mi velocidad para saber si llego a tiempo o no. Asi pues, yo avisaria al chico de que se echara a un lado, si es lo suficientemente grande, o a la persona responsable si es demasiado chico.
UN saludo.
perdon antes puse llendo con ll. en que etsaria pensando?
saludos de nuevo
Bueno, yo creo que si alguien se para a leer obtiene la erspuesta, puesto que la segunda y tercera ley se pueden quebrantar si entran en conflicto con la primera. Es decir, suelto todo este rollazo para acabar diciendo que debería, como robot que hipotéticamente sería, salvar al niño.
Hola Cambro, de acuerdo contigo, si lees lo que puse, una de mis frases era la siguiente: "Aun si sólo hubiese sido programado para ver la posibilidad de salvarlo llendo a por el, entonces dudo que tuviera una circuito para hacer los calculos de la caida del arbol, y mi velocidad para saber si llego a tiempo o no".
De lo que se deduce que indudablemente iria a salvar al niño. Sí por el contrario tuviera una circuiteria más avanzada, por ejemplo, que me permitiese calcular esos parametros fisicos instantaneamente, pero que no me permitiera buscar otras soluciones a esta clase de problemas, entonces tendría que ver si estoy programado para realizar ese calculo en una situación como esa y si además esa calculo influye en mi actuación o no, si la respuesta es no, entonces iría a salvar al niño, si la respuesta es sí, entonces tendría que ver de nuevo que tipo de programación tengo, puede que haya sido programado para no preocuparme si no puedo salvar a la persona en peligro, o puede que haya sido programado para intentar salvarlo de todas maneras. es decir dependería de varios programas:
1. programa de las tres leyes.
2. programa para realizar el calculo instantaneamente de las variables físicas.
3. programa para realizar los calculos anteiores, ante una situación como la descrita.
4. Programa para tener en cuenta las conclusiones del programa anterior en la manera de actuar,ante ese tipo de situaciones.
5. Programa de busqueda de otras soluciones alternativas ante este tipo de situaciones y de su aplicación.
Supongamos ahora que tengo los 4 programas, pero no el 5º entonces supongo que no haría nada ya que la primera ley dice: "Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser humano sufra daño".
Es evidente que la acción para que no sufra daño debe referirse a una acción efectiva, si dicha acción no fuera efectiva, entonces la primera ley no tendría sentido, ya que la primera ley no contiene la palabra "intentar" o el grupo de palabras "intentar de todas formas, aunque se sepa que no se tienen posibilidades" si ninguna de las acciones que puedo hacer sirve de manera efectiva para salvar a la niño, entonces aplicar la primera ley carece por completo de sentido, con lo cual esa paradoja no se produciria y por tanto no iría a por el niño.
Un saludo.
Por cierto, cuando uso la palabra "efectiva" a lo que me estoy refiriendo es que dicha acción tiene una probabilidad mayor que cero, aunque sea casi infima,de poder salvar a la persona, es decir, existe posibilidad de salvarla con dicha acción.O dicho de otro modo, la probabilidad de poder salvar a la persona, ejecutando esa acción, no es estrictamente cero.
Un saludo.
Eso que expones david tiene su lógica, aunque yo no soy muy partidario de la filosofía pitagórica (a pesar de ser considerado "informático"). Para mí, los números pueden expresar la realidad, pero no agotarla, por lo que digo que jamás (quizá por fortuna) ni una máquina ni un ser humano será capaz de analizar todos los datos en derredor suyo y de elaborar una respuesta logico-deductiva "eficaz" a razón de estos (imagina que el niño lo tenía planeado en su cerebro IMprevisible y pretende apartarse en el último instante hacia delante; probablemente el robot lo arrollaría).
Sé que contesto con retraso, pero cuando tienes un examen de literatura prefieres hacer otras cosas a estudiar, como filosofear un rato ;) jajaja
HOla Cambro, es evidente que analizar todos los parametros fisicos, aun cuando existen las ecuaciones exacta de la realidad es muy dificultoso y casi o imposible, ya que no sólo hay que hacer una recolección de datos sino una manipulación de calculos exageradas, pongamos como ejemplo el tiempo (atsmoferico), en el que las ecuaciones que se tienen son de una exactitud asombrosa, pero en la realidad (incluso usando los ordenadores y grupos de ellos más potentes) se recurre a aproximaciones y a considerar sólo ciertos parametros, ya que el calculo exacto llevaría más tiempo de la vida del universo. Yo creo que los números si que agotan la realidad, pero con la tecnologia actual es imposible hacer una valoración o analisis para llegar a situaciones de prediciones muy exactas. No obstante,en el problema dado debemos de tener en cuenta tres cuestiones:
1) no se trata de agotar la realidad, sino de que se impone una imposibilidad o restricción, "la de no poder llegar a tiempo". Es decir, no se trata de saber que va a pasar, sino de saber seguro "lo que no va a ocurrir". Para que lo entiendas te pondre un ejemplo: yo estoy ahora en jerez, yo se que dentro de 1 minutos no podré estar en londres, pase lo que pase (quizá en el futuro si pueda, pero no ahora mismo).
2) se trata sólo de ecuaciones muy sencilla,Mecánica y dinámica.
3) se trata, por ultimo, de un problema hipotetico, ya que actualmente no existen dichos tipos de robores.
Por cierto, una pregunta, a nivel personal si no te molesta
¿has estudiado la carrera de informatica? te lo pregunto por que me es curioso que tengas examen de literatura, cuando dices que eres considerado informatico, ¿que estas haciendo ahora alguna carrera de letras?
espero te vaya bien.
Un saludo.
Jajaja. Soy considerado "informático" por mis cinco años en cursos y mi experiencia en lo relativo a ésta (se podría decir que llevo 9 años de mis 17 manejando ordenadores a nivel de aprendizaje, no confundir con entretenimiento, que también xD). En lo que al examen se refiere, digamos que en 2º de bachillerato todavía tengo que cursar lengua obligatoriamente, a pesar de que odie a muerte esta asignatura (me alegra pensar que es mi último año ^^)
Por cierto, ¿en serio crees que los numeros agotan la realidad? Sé que desplazo el tema de conversación, pero parece que soy de los pocos que no lo ve así. Yo creo que podríamos talar el amazonas entero y seguiríamos necesitando papel para escribir todos los datos de una sola persona (hay que tener en cuenta que se podría describir átomo a átomo, relatar todas sus vivencias, etc...)
Hola Cambro. ¡Bueno agotar la realidad!, yo creo que estamos refiriendonos a lo mismo con diferentes nombres. Si estas estudiando físicas, habrás dado o darás un principio que se llama de incertidumbre, en el cual se dice que la posición de una particula y su cantidad de movimiento no pueden ser predichos a la vez, con una presición dada, como tampoco se puede predecir el spin de un electrón, pero afortunadamente la físicas y la química se han aprovechado de una de las principales leyes de las matemáticas (la ley de los grandes números) una ley estadistica, para no necesitar saber que hará cada particula (lo cual sería inmenso) sino el conjunto de las mismas; así nacieron ramas como la termología o la mecánica (no la de los coches). Pero el problema va más allá, ¿conoces alguna sucesión que de el conjunto de los numeros primos? es decir: 1-->1,2-->2, 3-->3, [el 1 corresponde al primero numero primo(aunque ahora el primer primo es el dos), el 2 al segundo primo..]y asi sucesivamente. No existe tal sucesión, pero más aún, existen ecuaciones de grado superior (superior a 5, sino recuerdo mal) para los que no existe una "formula" exacta para calcular su solución, tal como la puede existir para las ecuaciones de segundo grado( sí la típica de 2b...) pero lo curioso no es, que no existan porque no se hayan encontrado, sino porque esta demostrado que no existe. ¿te das cuenta a donde quiero ir a parar? los numeros agotan la realidad, pero a veces se demuestra que esa realidad no se puede agotar en una ecuación o mejor, no existe una "formula" que nos de la solución de dicha ecuación. Pero aunque no existan "formulas" si que existen "métodos" para la resolución. Asi que ¿hemos agotada la realidad? pues depende de como se mire. Como ves mi punto de vista es dual, dependiendo de como se defina dicha aseveración, teniendo en cuenta que cuando se habla de números se da por entendido que se quiere decir Matemáticas, o las ciencias en general. Aunque eso que dices, de escribir todos los datos de una persona o ser vivo, tienes razón,si lees lo que te escribí te darás cuenta de ello:
"analizar todos los parametros fisicos, aun cuando existen las ecuaciones exacta de la realidad es muy dificultoso"...
"pongamos como ejemplo el tiempo (atsmoferico"...
..."se recurre a aproximaciones y a considerar sólo ciertos parametros, ya que el calculo exacto llevaría más tiempo de la vida del universo."...
¿tes das cuenta? sólo es cuestión de donde coloquemos nuestro angulo de visión.
Un saludo.
Ahora estoy algo más de acuerdo contigo, aunque sigo creyendo que la realidad es inagotable (apenas soy tozudo ;P).
Me has dado un duro golpe cuando has mencionado la sucesión inexistente de los números primos, por lo que pido tablas en este tema, pues es cierto que depende del punto de vista.
Hasta otra, compañero de divagaciones...
Concedidas, ya que en realidad hablamos de lo mismo, en mi opinión (yo tambien soy muy tozudo, p) jajaja. Pero ha merecido la pena este dialogo ¿no crees?
espero que aparezca pronto otro tema de debate como este, para debatir.
un saludo.
Pd: cuando comencé a poner la formula de segundo grado dije "2b" se me fue (no se cómo) pero quería decir, como es lógico, la formula de -b más menos ....
Publicar un comentario