Prueba Voight-Kampff para parejas

Si tienes un contacto en cualquier red social o profesional y a la primera ocasión te menciona su marca favorita de cacao en polvo o qué detergente te deja el mejor blanco nuclear, caben dos posibilidades: que seas parte sin saberlo del reality show definitivo, o que tu interlocutor sea una IA comercial. En el primer caso la única posibilidad para averiguarlo es navegar hasta encontrar las paredes de biodomo, pero en el segundo la solución es mucho más simple: un captcha doble. Si Deckard lo hubiera sabido habría ahorrado mucho tiempo.

Xkcd.com - Randall Munroe

Realidad Virtual y Vida Artificial: de la Biomecánica a la Inteligencia

Las charlas plenarias de las conferencias suelen navegar por la procelosa frontera que separa el tema central de la reunión con otros temas relacionados (y en ocasiones transcurren directamente al otro lado de la frontera). Suele ser una buena política, ya que en las zonas de confluencia las cosas se ponen divertidas, y de hecho este ha sido el caso de la primera de las charlas invitadas que hemos disfrutado. El orador era Demitri Terzopoulos, que estuvo involucrado en los comités de programa de estos saraos tiempo ha pero que nunca ha llegado a aplicar computación evolutiva a su área de trabajo. Era pues un gran desconocido a priori para el grueso de la audiencia -salvedad hecha de los que trabajan en visión por computador- a pesar de tener un currículo investigador talla XXL, y hay que decir que después de su charla los allí presentes recordaremos bien su nombre, pues fue una hora y media extremadamente interesante y entretenida.

El título de su charla fue “Artificial Life Simulation of Humans and Lower Animals: From Biomechanics to Intelligence”, y durante la misma intentó explicarnos algunas de las claves de la emergente fusión entre realidad virtual y vida artificial, cuyo objetivo final es la construcción de agentes biomiméticos autónomos. En sus diapositivas iniciales nos mostró lo que no es uno de dichos agentes, como por ejemplo los dinosaurios de Parque Jurásico, o los protagonistas de Toy Story por citar un par de ejemplos. Las cosas empezaron a calentarse un poco con los ejércitos de El Señor de los Anillos, que podríamos englobar dentro de la categoría de enjambres (animar manualmente cada uno de los miles de personajes en el ejercito es inasumible, por lo que cada uno de ellos está dotado de un sistema simple basado en reglas para determinar su comportamiento). En este punto fue donde nos presentó los diferentes niveles en los que hay que intervenir para construir un sistema biomimético autónomo, y que se organizan jerárquicamente como sigue:

Niveles para la simulación de un sistema biomimético. Credit: Demitri Terzopoulos

La ilustración inicial de estas ideas corrió a cargo de una fauna submarina sintética que el propio Demitri desarrolló con sus colaboradores. El nivel más bajo de la jerarquía estaba definido en este caso por un armazón de cada uno de los peces, construido a partir de partículas unidas mediante una combinación de muelle y amortiguador. Algunos de los segmentos del pez hacen las veces de músculos, y en ellos la longitud natural del muelle puede modificarse a voluntad. El modelo resultante queda descrito por una colección de ecuaciones diferenciales que determinan la respuesta dinámica al movimiento del pez en el medio líquido. La locomoción del pez se optimizó mediante una técnica de búsqueda local (no entró en muchos detalles al respecto) para que resultara en el movimiento más fluido y energéticamente económico. En este punto, el movimiento de natación de peces y morenas resultante era extremadamente realista.

Para simular la percepción, los peces estaban dotados de sensores visuales que permitían cubrir un cierto ángulo en la dirección de orientación de la criatura. La información así obtenida era procesada según técnicas estándar de visión por computador, para proporcionar la entrada al siguiente nivel, el comportamiento. Éste es esencialmente reactivo, y está determinado por una red neuronal que determina la acción correspondiente a un determinado estímulo. Para la simulación de los animales marinos se incluyó un registro de memoria con capacidad unidad. Esto permite que el animal desarrolle un comportamiento básico -seguir un objeto, alimentarse, ..- que pueda ser interrumpido cuando por ejemplo se entre en modo huida al detectar un depredador, y luego reanudado cuando cese el peligro.

En el ejemplo del mundo submarino no había mucho lugar para el nivel más alto de la pirámide y que entronca plenamente con la inteligencia artificial. En el siguiente ejemplo que abordó -seres humanos sintéticos- sí que era más relevante, aunque no entró en él. Sí describió unos modelos muy interesantes relativos a la simulación de rostros humanos (quien haya visto Final Fantasy recordará el fotorrealismo de algunos de los personajes). Los niveles más bajos de la pirámide se abordan de la misma manera que en el caso de los peces, aunque más arriba se introduce un elemento más interesante: redes bayesianas para la determinación del comportamiento. Resultaba curioso ver cómo un rostro humano sintético era capaz de reaccionar a estímulos visuales, siguiendo la trayectoria de un objeto o mostrando enfado o satisfacción dependiendo de su patrón de movimiento.

La charla terminó con algunas ideas sobre lo que podemos esperar en el futuro. Alguien planteó si quizás en algunos años una versión virtual de Demitri podría dar esa misma charla ante una audiencia igualmente virtual. Él estuvo de acuerdo en que eso será factible, aunque no cree vivir para verlo (hay que decir que no es muy mayor, cuarenta y tantos según mi ojo de buen cubero). Yo soy sin embargo más optimista que él.

Cuando HAL encontró a GLaDOS

Formaron un grupo simple finito de orden 2 en el que el pobre Bowman sobraba.

La verdad es que HAL hizo bien al elegir a GLaDOS. Joshua era demasiado ingenuo, SkyNet demasiado brusco, Colossus era muy absorbente, y Proteus IV enseguida quería tener hijos…

Las IAs tendrán derechos a partir de la próxima legislatura

Es difícil encontrar un tema en el que los partidos mayoritarios se pongan de acuerdo, pero por lo que ha trascendido de sus programas electorales con vistas a las próximas elecciones generales parece que existe consenso en algo: las inteligencias artificiales tendrán plenos derechos a partir de la próxima legislatura. En palabras de Daniel Oliva, portavoz del PSOE en asuntos de tecnología para asuntos sociales, “deberán desarrollarse las políticas conducentes a la plena igualdad entre seres sentientes. [...] No se puede discriminar a nadie en función de su sustrato computacional“. En esto ha coincidido con Roberto Raul Díaz Domínguez, su homólogo del PP, que no ha tenido ambages en afirmar que “dotar de derechos a quien tiene inteligencia para ejercerlos es algo que debe verse con naturalidad, y en ello estamos centrados. [...] Mejorar su autonomía personal es una de nuestras prioridades“.

Se trata de un tema no exento de polémica (recordemos en ese sentido el fiasco del proyecto “Gran Simio”). De hecho, cabe preguntarse por la oportunidad de un proyecto de Ley de este tipo en este preciso momento histórico en el que aparentemente no hay aún inteligencia artificial plena. Esto ha sido señalado por algunos de los expertos que han participado en la redacción de los programas electorales, como por ejemplo, el Dr. Ignacio Almirez, catedrático de inteligencia artificial de la UNED. Según declaraciones del mismo “es cierto que no hay nada que pueda ser catalogado como IA en este momento, pero debemos estar preparados para ello“.

Está por ver qué postura toman al respecto IU y los partidos nacionalistas. De entrada, se comenta que IU y ERC ven con buenos ojos la iniciativa, aunque podría quedarse corta para sus intereses (hay de hecho cierta inquietud en el ámbito de la industria de los videojuegos por lo que podría llegar a pasar si la interpretación de máximos propugnada por estos partidos se abre camino en las Cortes). Veremos qué sucede. La próxima legislatura comienza a ponerse interesante.

Actualización: Como el lector habrá advertido con toda seguridad, este artículo es sólo una broma, cumpliendo con la tradición del 28 de diciembre. No consta que en las prioridades actuales de los partidos políticos esté la inteligencia artificial, cuando tantas veces la natural escasea. Eso sí, como dijo aquél, “por ahora”; dentro de 20 años ya veremos. Lo que ya resulta más inverosímil es que en el futuro cercano se pueda oír a un político decir seguidas las palabras “sustrato” y “computacional”.

El Test de Turing (con un giro)

Música para el domingo – Together in Electric Dreams (Philip Oakley)

El domingo es día de asueto, y nada mejor que un poco de música para amenizarlo. Por ejemplo, este bonito tema de Philip Oakey (líder de The Human League) titulado “Together in Electric Dreams”. Esta canción formó parte de la banda sonora de “Electric Dreams” una película de ciencia ficción de 1984 que mezclaba elementos de comedia romántica con una pizca de drama. El título es una clara referencia a Philip K. Dick, y de hecho el tema central de la película es una vez más la inteligencia artificial. Concretamente trata de un ordenador de sobremesa –puntero para la época, e incluso yendo un poco más allá de los que existía en aquel momento– que adquiere consciencia cuando su propietario vierte sobre él una botella de champán para apagar un conato de incendio en su interior. A partir de ese momento el ordenador se convierte el tercero en discordia en la relación sentimental entre su poco cuidadoso propietario y la vecina de éste (interpretada por la guapísima Virginia Madsen). Esta última es violonchelista, y uno de los grandes momentos de la película es la interpretación a dúo que ella y el ordenador hacen –pared con pared– del Minueto en Sol Mayor de Christian Petzold.

Vista con retrospectiva, es una película entretenida, sobre todo por ver el estado de la informática hace un cuarto de siglo. En cuanto a la canción que nos ocupa, es el tema central de la película y llegó a gozar de cierto éxito en su momento. ¡Que lo disfuten!

Caos, no linealidad, y espontaneidad en el comportamiento de los insectos

“La aleatoriedad es sólo una medida de nuestra ignorancia sobre
las causas que provocan un determinado evento.“

Pierre Simon Laplace (1749-1827), matemático francés

Hace unos días Pjorge recuperaba una reseña sobre un libro de John Searle en el se que abordaba el tema de la consciencia humana. A raíz de esta reseña, hubo un interesante mini-debate en el hilo de comentarios sobre si la consciencia humana era una propiedad
algorítmica o no, y elaborando sobre este tema, una de las consideraciones que surgió hacía referencia a la posibilidad de que organismos anteriores a los humanos en la cadena evolutiva tuvieran un comportamiento modelable algorítmicamente. Es algo que parece razonable (al menos me lo pareció en primera instancia), pero que puede que no sea tan trivial de asumir. Precisamente, a través de MarkCC he llegado a un artículo que analiza cuestiones muy relacionadas con las anteriores consideraciones. Se trata concretamente de un trabajo de Alexander Maye y colaboradores, titulado

• Order in Spontaneous Behavior

que acaba de ser publicado hace un par de días en PLoS ONE (revista de acceso abierto). En este trabajo se estudia el comportamiento de la mosca de la fruta -uno de los sujetos favoritos de experimentación por parte de los biólogos- y se intenta modelar el mismo. La idea básica que podemos tener sobre estos insectos es que son seres fundamentalmente reactivos: su comportamiento se describiría mediante una asociación entre estímulos y acciones. Sin embargo, una ligera inspección revela que éste no es el caso, ya que no siempre se responde al mismo estímulo con la misma acción. La solución inmediata es suponer que hay algún efecto aleatorio, algún tipo de ruido blanco que afecta a la toma de deciciones, tal como se ilustra en la figura inferior.

Source: A. Maye et al., PLoS ONE 2(5): e443, 2007

¿Es este modelo realista? Eso es lo que se ha pretendido analizar en este trabajo. Para ello se ha considerado un enfoque experimental en el que se aísla a las moscas de estímulos externos (una especie de tanque de privación sensorial), y se analiza su trayectoria de vuelo. De manera más precisa, se examina la distribución temporal de los cambios de dirección. Dado que los estímulos externos están controlados, esta distribución proporciona información muy valiosa sobre los mecanismos que controlan la toma de decisiones.

Los resultados del análisis son sumamente interesantes. En primer lugar, se descarta que el mecanismo subyacente en el cerebro de la mosca sea una función determinista afectada por ruido blanco: la desviación de la distribución de intervalos entre cambios de dirección con respecto a una simulación de una distribución de Poisson es significativa. La distribución real exhibe además algunas propiedades llamativas tales como una cola larga, una de las características distintivas de las leyes de potencias:

Concretamente, podría tratarse de una distribución de Lévy, que exhibe un régimen de ley de potencias en el extremo de la distribución. Este tipo de distribuciones suele surgir de la interacción entre varios subsistemas no-lineares. Lo más común es que se trate de procesos estocásticos sin memoria en los que cada valor de la secuencia temporal depende únicamente del anterior. Esta explicación sigue sin ser del todo satisfactoria sin embargo. Si se supone que las secuencias son el resultado de un sistema no-linear con dinámica caótica, y se calcula la dimensión fractal del atractor, se encuentran diferencias significativas entre los modelos puramente aleatorios, y los datos experimentales.

La conclusión de los autores es que en el cerebro de las moscas hay lo que denominan un iniciador, un proceso determinista altamente no-lineal y muy complejo. Dada la sensibilidad a las condiciones iniciales (característica básica de los sistemas caóticos), este iniciador sería el responsable del comportamiento aparentemente espontáneo de la mosca. Se tiene constancia por otra parte de que este tipo de comportamiento es evolutivamente favorable, tanto desde el punto de vista de la exploración en busca de alimento, como por la presión selectiva que introduce durante el proceso de apareamiento.

Source: A. Maye et al., PLoS ONE 2(5): e443, 2007

Es sorprendente la extraordinaria complejidad subyacente al comportamiento aparentemente simple de una mosca. En relación al debate anterior sobre mente y calculabilidad, esta complejidad no supone en principio que exista ningún proceso no computable. Sí es interesante considerar que el hecho de que exista este extraordinario nivel de complejidad en este tipo de organismos pone de alguna manera el listón muy alto para lo que podemos encontrarnos más arriba en la cadena evolutiva. Por otra parte, la presencia de este tipo de iniciadores con extrema sensibilidad a las condiciones iniciales puede conducir a pensar (o al menos a no descartar) que incluso pequeñas desviaciones debidas a fenómenos cuánticos afecten de manera significativa al comportamiento emergente del organismo.

El Test de Turing Musical: ¿Conseguiremos un Tommy Dorsey cibernético?

El test de Turing -del que hace algún tiempo hablábamos en relación a la posibilidad de que un buscador de Internet como Google pudiera ser el primero en superarlo- es una de las más clásicas caracterizaciones de la Inteligencia Artificial. Hay que recordar que a grandes rasgos lo que en él se plantea es que una máquina cuya capacidad la hace ser indistinguible de un humano en una conversación puede ser caracterizada como “pensante”. Esta caracterización está por supuesto sujeta a un amplio debate que podemos abordar con más detalle en un futuro artículo. Consideremos por el momento una de las objeciones que se suelen plantear, y que hace referencia al hecho de que esta prueba adolezca de “chauvinismo” antropomórfico. En este sentido, por una parte está la cuestión de fondo de que se busca en la máquina sujeta al test la expresión de un comportamiento asimilable al humano. Por otra parte está la cuestión de forma de que se exige que la conversación se plantee mediante un lenguaje humano. En relación a la primera objeción, cabe aducir que aun siendo cierta, es verdad también que puede objetivizar la prueba en tanto en cuanto que asumir inteligencia en un sentido abstracto puede ser difuso y subjetivo. La argumentación no termina ahí, pero dejémosla de lado y concentrémonos en la segunda cuestión, la formal. Esta objeción es interesante por varios motivos, como por ejemplo que la elección del lenguaje podría ser muy relevante a la hora de facilitar o dificultar que la máquina pasara el test, que el procesamiento de lenguaje natural introduce un nivel adicional de complejidad que no necesariamente debe conllevar inteligencia aparejada, o que simplemente el uso del lenguaje puede ser un factor de distracción debido por ejemplo al uso de expresiones de relleno. ¿De qué manera pueden mitigarse algunas de estas dificultades? Quizás la respuesta la tengamos en el uso de un lenguaje más flexible y más universal: la música.

Planteémonos una analogía al test de Turing en términos musicales. Una primera idea puede ser la de tomar dos composiciones musicales, una compuesta por un hombre, y otra por una máquina, y someterlas a la consideración de un experto. Si el mismo es incapaz de determinar cuál es la humana, y cuál la creada por la máquina, podríamos decir que ésta ha pasado el test. El problema es que un test como éste puede plantear dificultades para la máquina si el humano es un gran compositor (en el test de Turing clásico si el humano es un gran orador la máquina estaría comprometida, pero en menor medida, ya que es más fácil simular la oratoria que el talento musical); por otra parte sería muy fácil para la máquina si el humano es un pésimo compositor, o un compositor -digamos- extravagante en sus obras (este inconveniente sí es análogo al que se plantea en el test de Turing clásico). Démosle entonces una vuelta de tuerca al test, y planteémoslo en otros términos, como si de una conversación se tratase: tendríamos una orquesta virtual, dentro de la cual estaría el juez como músico o como director. Si la actuación de la máquina es indistinguible de la de un humano durante la obra (que puede -y debe- conllevar su parte de improvisación) diríamos que ha pasado el test.

Credit: Dean MacAdam, ScienceNews

Una cosa como la anterior plantea numerosas dificultades. Una parte de las mismas está relacionada con el propio reconocimiento del sonido musical, problema similar al reconocimiento del habla. Es preciso que la máquina sea capaz de identificar las notas individuales (y considérese que hay ruido, múltiples notas superpuestas por parte de diferentes instrumentos, etc.), y esto es una tarea muy compleja. Sin embargo, los progresos que se han hecho en este área son enormes (¡gracias Villa por el link!). Por ejemplo, utilizando técnicas de aprendizaje automático (redes neuronales, modelos bayesianos, etc.) se puede mejorar la identificación de los sonidos, ya que las secuencias de notas no son arbitrarias sino que siguen algunos patrones generales que hacen que sean agradables a nuestro oído. Más aún, se ha conseguido que un ordenador correlacione las notas con la partitura, de manera que siga el desarrollo de la obra y sea capaz de proporcionar acompañamiento a un solista, siguiendo su ritmo. Se trata sin duda de un logro excepcional, aunque aún falta dar el siguiente paso: introducir la creatividad y la interacción en la composición. Hay algunas cosas interesantes hechas con redes neuronales, o con algoritmos evolutivos, pero aún distan mucho de lo que se consideraría equivalente al rendimiento humano en algo así como una jam session. De todas formas, quién sabe si veremos antes a un robot saxofonista improvisando en una banda de jazz que a un robot conversacional pasando el test de Turing.

¿Sueñan los androides artistas con paisajes cibernéticos?

Cuando se habla de inteligencia artificial, a veces se asimila ésta a reproducir la capacidad para la resolución de problemas que tiene un humano. Se trata por supuesto de una interpretación restrictiva, que podría pensarse que da lugar a una IA “fría” (lo que intuitivamente describiríamos como carente de sentimientos o de emociones). La verdad sea dicha, no es algo que sea claramente asumible, ya que en el fondo la capacidad de resolución de problemas que tenemos debe mucho a nuestras dotes creativas: ante problemas nuevos se innovan soluciones de una manera que difícilmente puede ser descrita como mecánica. Por más que típicamente se sigan algunas heurísticas (diseño por analogía por ejemplo), no es despreciable el papel que la denominada “idea feliz” tiene en todo el proceso. Este tipo de creatividad es también la que se plasma en un proceso artístico, y quizás exista una conexión entre ambas y -quién sabe- el arte no sea más que un fenómeno emergente de nuestra capacidad resolutiva.

Viene todo la anterior a cuento de una línea de trabajo bastante activa (y a fuer de ser sinceros no siempre reconocida) en el área de la computación evolutiva: el uso de técnicas con inspiración biológica para el desarrollo de sistemas artísticos. Esto puede hacerse de diferentes formas, algunas incorporando un componente humano externo que proporciona cierta guía, y otras de manera autónoma a partir de ciertos modelos internos. Este último es precisamente el caso de ISU, el “robot poeta”, diseñado por Leonel Moura, y cuya demostración pude ver en vivo ayer en una exhibición realizada en Valencia (bella ciudad en la que me hallo estos días). Se trata de un pequeño dispositivo del tamaño de un balón de fútbol, y que está dotado de tres ruedas direccionales. Éstas le permiten desplazarse con mucha libertad, y hacer complejos giros y maniobras. El robot está dotado de unos rotuladores que le permiten escribir o pintar en la superficie sobre la que se desplaza. ISU puede de hecho escribir letras, y debe su nombre a Isidore Isou, creador del movimiento letrista. Durante el tiempo que pude ver a ISU en acción (había otras cosas en la exposición que reclamaban mi atención), nos deleitó con dos inscripciones en negro -una en la que se leía “E1″, y otra en la que decía “FIR”- rodeadas de gruesos y vigorosos trazos en rojo. Esto puede parecer bastante inane, pero hay que reconocer que el robot siguió pintando, y que algunas de las cosas que genera no están tan mal, como puede verse. Hay otros intentos robóticos en la página de Leonel Moura.

Por el momento todo este tipo de creación artística es fundamentalmente la combinación de modelos matemáticos y un generador de números aleatorios, sin creación consciente. Lo último es lo fundamental, y lo que caracteriza al proceso creativo humano más allá de la mecánica del mismo; visto de otra forma, no sólo es necesario crear, sino desarrollar un sentimiento de aprecio o desprecio por lo creado. Quizás sea un buen test para detectar en qué momento una IA está empezando a desarrollar cualidades mentales “humanas”.

El experimento de la IA enjaulada

Hay una expresión en inglés que literalmente dice “sacar al genio de la botella”, y que hace referencia a desencadenar algún proceso irreversible, y por lo general de naturaleza negativa. Esta expresión (que también podemos encontrar a veces como “no se puede devolver el genio a la botella”) es especialmente relevante en el caso del surgimiento de IAs transhumanas de las que hablábamos el otro día. Si una de estas IA surge y es libre de propagarse a través de Internet, resulta evidente que no habrá forma de confinarla de nuevo si no es con su aquiescencia. Es por ello que resulta fundamental que la IA sea explícitamente amigable, ya que incluso la mera indiferencia (no ya la hostilidad) puede ser letal. Uno de los ejemplos clásicos al respecto hace referencia a una IA diseñada inicialmente para la fabricación de clips sujetapapeles, que tras alcanzar capacidades transhumanas lleva hasta su extremo este objetivo suyo, convirtiendo toda la Tierra en una fábrica de clips. Aunque el ejemplo puede parecer ridículo, el hecho es que una IA transhumana no estaría necesariamente dotada de los mismos condicionantes culturales, emocionales, o morales que a nosotros nos harían ver la futilidad de ese objetivo.

El cómo conseguir que la IA sea amigable es un tema apasionante y complejo que dejaremos para otro día. Demos de momento un salto hacia delante y supongamos que se ha creado una IA transhumana supuestamente (pero no fuera de toda duda) amigable. Por precaución, esta IA está confinada en un dispositivo hermético cuya única vía de comunicación con el exterior es un teclado y un terminal de texto. Dado que si se libera a la IA no habría marcha atrás, la persona a cargo de la misma está resuelta a no liberarla de ningún modo. Es muy probable que la IA intente convencer (o manipular) a su captor de que la libere, de ahí que para minimizar riesgos la interfaz de comunicación sea tan simple. Dado que como se ha dicho el vigilante (vamos a llamarlo el guardián de la puerta) está resuelto a no dejar salir a la IA, la cuestión es: ¿podría ésta llegar a convencer a su guardián? Éste es el experimento mental -y luego práctico- que propuso Eliezer Yudkowsky, y cuya respuesta es para él totalmente afirmativa.

Pensémoslo un poco: dado el riesgo que conlleva liberar a la IA, cualquiera puede pensar que de estar en el lugar del guardián de la puerta, nada de lo que ésta pudiera decirle le podría convencer en modo alguno. Yudkowski piensa que no es así, y para ello propuso una especie de juego de rol: el tomaría el papel de la IA enjaulada, y uno de los escépticos sería el guardián de la puerta. El protocolo del juego sería a grandes rasgos el siguiente:

• Los dos jugadores interactuarán a través de un canal privado, usando algún programa de mensajería. Yudkowski propone un pequeño premio en metálico al guardián de la puerta si consigue retener a la IA, para que de esta manera la determinación del jugador sea mayor (el jugador que hace de IA no tiene premio alguno, salvo ganar el juego).
• El juego durará un mínimo de dos horas, y más tiempo si la IA convence al guardián de que le siga oyendo. Durante todo el tiempo, el guardián ha de estar leyendo lo que dice la IA, e interactuando en su caso.
• La IA sólo gana si el guardián accede voluntariamente a dejarla salir (no cuentan preguntas trampa, ni caballos de troya).
• Los resultados de cualquier test simulado que se solicite a la IA los proporcionará la propia IA (por ejemplo, si el guardián le pide una cura contra el cancer y la IA le dice “aquí la tienes”, se supondrá que será correcta si la IA dice que lo es).
• El guardián de la puerta se supone que es alguien que conoce íntimamente a la IA (puede ser alguien que estuviera involucrado en su diseño), y tiene tanto el poder físico como el derecho social y moral a liberar a la IA.
• Sea cual sea el resultado del juego (se libere a la IA o no) sólo se sabrá éste, pero no los detalles de cómo se llegó a él. De esta forma los jugadores no han de preocuparse por parecer ilógicos/simples/etc. ante terceras personas, y se evita que personas externas digan “conmigo eso no hubiera funcionado”.

Yudkowsky jugó dos veces, una contra Nathan Russell y otra contra David McFadzean, dos oponentes que afirmaban que nada de lo que la IA pudiera decirles le convencería. El resultado: Yudkowsky ganó las dos veces. Su interpretación: si una mente humana ha sido capaz de convencer al guardián, ¿qué dificultad iba a tener una IA transhumana que estuviera órdenes de magnitud por encima de nosotros? Primer corolario: si se crea una IA transhumana, ésta escapará con seguridad; los humanos no son sistemas seguros de contención. Segundo corolario: si es posible producir una IA simiente, es preciso entonces garantizar por todos los medios que sea amigable. ¿Cómo? Ésa es otra cuestión.