Robots, entre la utopía y la distopía

Robot Asimo de Honda

Robot Asimo de Honda

A principios de abril de 2009, la prensa internacional reseñó que por primera vez en la historia un robot, Adam—diseñado por un equipo interdisciplinario de científicos de la Universidad de Aberstwyth, en el Reino Unido—había planificado de manera independiente un protocolo experimental que lo condujo al descubrimiento de 12 funciones en los genes. El robot fue capaz de identificar el gen que controla una enzima crucial para la producción de lisina, un aminoácido esencial para el crecimiento. Según el profesor Ross King, director del proyecto, los robots son muy valiosos en la investigación científica porque pueden llevar a cabo gran número de experimentos repetititvos que para un científico humano resultan tediosos y le podrían hacer perder concentración. Según el profesor King, enseñarle al robot a formular una hipótesis fue la parte fácil del diseño de su software de inteligencia artificial. El principal desafío fue dotar a Adam de la capacidad para diseñar una larga serie de experimentos que fuesen lo suficientemente sensibles como para detectar mínimos cambios en la levadura relacionados con el gen en estudio. Para hacer esto, Adam fue dotado con una base de datos de los genes conocidos que están presentes en bacterias, ratones y humanos, de modo que pudiera conocer dónde buscar el gen de la lisina en el material genético de la levadura común.

Quizás esa insólita noticia no tuvo el impacto esperado en los lectores alrededor del mundo porque Adam no es un robot antropomórfico. Su cuerpo está constituido por 45 metros cúbicos de instrumentos de plástico blanco. Sin embargo, la posesión de una inteligencia que le haya permitido realizar experimentos de manera independiente, es un hecho pionero que debe hacernos reflexionar con mayor detenimiento sobre los robots. Imaginemos que los centros donde residen los sistemas de inteligencia artificial, que les permiten tomar sus propias decisiones, y actuar en consecuencia, a Adam o a Eve—versión más avanzada de este robot—fuesen instalados en un robot antropomórfico como Asimo, el robot humanoide de 133 centímetros de altura y 54 kilogramos de peso, diseñado por Honda, que tiene la capacidad de caminar en dos pies, comprender gestos preprogramados y comandos de voz, reconocer voces y caras y, que incluso, puede dirigir una orquesta.

Robot Adam y su creador

Robot Adam y su creador

Eve, la próxima versión de Adam, no se debe confundir con el robot coreano EveR-1, androide inteligente con rostro de mujer desarrollado por un equipo de científicos surcoreanos del Korea Institute of Industrial Technology dirigidos por Baeg Moon-hong. Este robot, que fue mostrado al público en Seúl en mayo del 2006, tiene 1,60 metros de altura y 50 kilogramos de peso, puede emular la expresión facial mediante elementos de musculatura y sostener una conversación básica con su interlocutor que no supere un léxico de 400 palabras. Aunque Ever-1 puede mover la parte superior de su cuerpo y expresar felicidad, rabia, tristeza o placer, es aún incapaz de mover su parte inferior. Está hecho de una gelatina de silicón que al tocarla se confunde con la piel humana. EveR-2, que es una versión más avanzada de Ever-1, cuenta con una mejor visión y una capacidad superior para expresar emociones. Agrega el aburrimiento al repertorio básico de emociones que puede expresar, lo que logra gracias a que posee 29 motores y docenas de articulaciones que le confieren 23 grados de libertad para lograr una mayor libertad en su autoexpresión. Estos dos robots forman parte del programa de Corea del Sur para desarrollar la robótica hasta lograr, antes del año 2013, que cada hogar coreano tenga un robot que asista en faenas domésticas.

Es posible que si Asimo, Ever-1, Ever-2 y otros modelos de robots humanoides pudiesen analizar el universo que los rodea de la forma que Adam analiza de manera independiente problemas de investigación específicos que se plantea en el laboratorio, la noticia de su autonomía habría sido más impactante. Y no me refiero solamente a la alegría y emoción que debería haber despertado el hecho de que los hombres de ciencia hayan diseñado una máquina que emule algunas de las funciones más complejas del ser humano, como el razonamiento analítico independiente. Sino más bien a que este nuevo paso dado por la robótica promete la visión utópica de un futuro no muy lejano en el que equipos híbridos de investigación científica, conformados por humanos y robots, trabajen en los laboratorios en un ambiente de colaboración que reduzca conflictos motivados por ambiciones personales (inexistentes en los robots) y que, por el otro, posea capacidades superiores para realizar experimentos complejos, repetitivos que requieren mucha atención y, posteriormente, analizar resultados en los que las diferencias son sutiles y complejas. Estos equipos humanos-robots podrían imprimirle una aceleración inimaginable a los descubrimientos científicos y, quizás también, a la búsqueda de modos de aplicación de los nuevos conocimientos científicos. Pero además, la ciencia no es el único campo en el que pueden encontrarse oportunidades para la colaboración entre humanos y robots. Versiones próximas y más económicas de Asimo, de EveR-1 y de otros humanoides pueden ser útiles para: enseñar a niños con dificultades de aprendizaje, ayudar en el hogar a gente mayor, o realizar una infinidad de tareas peligrosas (rescate, incendios), aburridas, muy demandantes de atencion y concentración. El proyecto de crear seres inteligentes que ayuden a que la vida del hombre sobre la tierra sea más llevadera, feliz y segura—en un mundo que se ha hecho más complejo, riesgoso e incierto—no es una utopía contemporánea; tiene una larga historia. Y sin embargo, la idea de que podamos llegar a tener éxito en esta empresa suscita en nosotros, de un modo recurrente, un temor inexorable a que, apenas alcancemos esta utopía, nos daremos cuenta de que hemos cruzado una línea prohibida; que estamos repitiendo una nueva versión del pecado original, y que podemos nuevamente ser expulsados de este mundo, a un mundo más oscuro, en el que vamos a vivir con más dificultades de las que hemos experimentado en éste desde que nos expulsaron del Paraíso.

Terror gnóstico

El Golem y el Rabí Loew

El Golem y el Rabí Loew

Aun cuando es posible que todavía falte tiempo para que se fabrique un robot humanoide capaz de decidir de manera autónoma y fabricar robots diseñados por él, que tengan una capacidad intelectual mayor que la del hombre, el sólo imaginar tal escenario nos llena de temor. A lo largo del tiempo, las historias sobre actos de creación de humanoides o androides las hemos preñado de tragedia. Son casos memorables de esta clase: el cuento del homúnculo creado por el mago en la segunda parte del Fausto, de Goethe; el Golem creado por el Rabí Judah Loew de Praga, que al crecer desmedidamente mata y atemoriza a decenas de habitantes de esa ciudad; el Frankenstein de Mary Wollstonecraft Shelley, humanoide creado por el doctor Frankenstein cuyo destino final combina de ese modo singular tragedia y melancolía. Mucho más recientemente, y como si fuera una cita de las historias anteriores, Roy Batty, el replicante en la película Blade Runner, dirigida por Ridley Scott, asesina a su padre-creador el doctor Tyrell y, aunque al final muere trágicamente, de algún modo trasciende ese sino trágico que ha marcado a humanoides y androides y se redime salvando sorpresivamente al policía Deckard, quien lo perseguía. Esta serie de historias negras sobre los intentos humanos de crear (realmente sobre las consecuencias frecuentemente catastróficas que se pueden derivar de esto) podrían también estar emparentados con una ideología gnóstica que nos recuerda aquel miedo a la cópula y los espejos que Borges confesaba a menudo (Los espejos y la cópula son abominables porque multiplican el número de los hombres). Lo común en ambos pudiera ser el hecho de que son instrumentos de creación y por tanto instrumentos del Demiurgo maligno—hijo incestuoso de Sofía (la Sabiduría), la última emanación de Logos (Creador) que se resiste a abandonar a su padre y que en ese acto concibe con él un hijo—que los gnósticos piensan ha creado el Universo real y la diversidad que lo habita.

Nuestras ansias de utopía pueden persuadirnos para que olvidemos la moraleja de esas historias sobre la tragedia de crear humanoides y, lo que es peor, de osar crear seres con una inteligencia superior a nosotros. Pensamos que todo este miedo se ha percolado a lo largo de los siglos desde ese ancestral terror gnóstico a la creación por miedo a repetir el error de esa madre del mundo que fue Sofía. Convencernos de que en el presente, y sin duda alguna en el futuro, seremos mucho más inteligentes de lo que fueron los personajes de las historias referidas, y podremos anticipar mejor las consecuencias adversas de ese acto es una tarea urgente para proseguir con tranquilidad hacia ese meta idealizada de matrimonio perfecto entre el hombre y la máquina. Pueden incluso apuntalar nuestra convicción de que las tres leyes formuladas por Isaac Asimov sobre los robots nos protegerán de amenazas a la especie humana que puedan surgir en el futuro provenientes de robots superinteligentes. Recordemos esas leyes: 1. Un robot no puede infligirle daño alguno a un ser humano ni, a través de la inacción, permitir que un ser humano lo inflija; 2. Un robot debe obedecer órdenes dadas por seres humanos, excepto cuando tales órdenes entran en conflicto con la Primera Ley; 3. Un robot debe proteger su propia existencia en tanto esa protección no entre en conflicto con la Primera o con la Segunda Ley. Y sin embargo, los expertos en robótica alegan que estas leyes no son necesariamente un antídoto contra decisiones o actos de robots que puedan infligirnos daño o amenazar nuestra vida; el análisis revela inconsistencias y omisiones en la redacción de esas leyes.

Los investigadores Douglas Few y Bill Smart, de la Universidad de Washington en St. Louis, trabajan con tecnología de punta en un proyecto de robótica, y han declarado que uno de los objetivos de los militares en Estados Unidos es lograr que el ejército esté compuesto por al menos 30 por ciento de robots en el año 2020. Aun cuando los militares que dirigen este tipo de proyectos insisten en que no se deben diseñar robots con plena autonomía, y que el vínculo entre el hombre y la máquina debe conservarse, “ es necesario mantener el dedo sobre el sistema todo el tiempo”, dice Bill Smart. Puede ser extremadamente peligroso permitir que un robot con capacidad para accionar armas de fuego posea total autonomía. Imaginemos lo difícil que puede ser explicarle al robot al que le ponemos en sus manos un arma de fuego que es un acto justo y legítimo dispararle e infligirles daño, e incluso la muerte a ciertos seres humanos, al tiempo que se le pide que proteja la vida de otros seres humanos. El concepto de enemigo usado para calificar a un individuo de la misma especie, visto desde la perspectiva de un humanoide que funciona con un programa de inteligencia artificial, puede ser muy difícil de definir. Es probable que la definición deje ventanas de incertidumbre conceptual por las que se pueda deslizar en un momento en un confusión la demarcación entre amigos y enemigos. Aún si un grupo de expertos en robótica diseñase un conjunto de leyes que corrigieran las debilidades identificadas en las tres leyes de Asimov, el mero empleo de robots para realizar ataques a enemigos incrementa tremendamente los riesgos de que un día los robots realicen actos que inicien la pesadilla que tan recurrentemente hemos temido.

La singularidad tecnológica
Algunos futuristas que han pensado sobre los robots, la robótica y el cambio técnico en general, piensan que ciencias como la robótica hacen temer que la humanidad se acerque en el futuro cercano a un punto teórico en el que el hombre cree una máquina que, a su vez, sea capaz de crear una máquina más inteligente que él. Los futuristas denominan a este instante una singularidad tecnológica (ST). Teóricamente, la ST ocurre durante un período de cambio técnico acelerado poco después de la creación de una superinteligencia. Los futuristas temen que si se construye una máquina (robot) que supere, aunque sea marginalmente, la capacidad de la mente humana, tal máquina pudiera mejorar su propio diseño de un modo no previsto por sus creadores y, así , hacerse aún más inteligente. Esta etapa iniciaría un ciclo de mejoras recurrentes en la inteligencia de las máquinas. Al cabo de poco tiempo, la tasa de mejora en el nivel de inteligencia de las máquinas crecería de modo exponencial. Con frecuencia se ha citado el artículo de la revista Omni de enero de 1983, en el que el matemático Vernor Vinge, uno de los proponentes de la hipótesis de la ST escribió: “Dentro de treinta años, vamos a tener los medios tecnológicos para crear una inteligencia superhumana. Poco tiempo después habrá terminado la era de los humanos”. En otras palabras, una máquina superinteligente podría no tener ninguna razón para dejar que el ser humano continúe viviendo en la Tierra. O, lo que sería peor, descubrir razones que justifiquen una existencia de los humanos en ese mundo como siervos de una inteligencia superior.

Otro defensor de la hipótesis de la ST es Raymond Kurzweil. Su análisis de la historia sugiere que el cambio técnico sigue un patrón de crecimiento exponencial que puede ser explicado por la Ley de los Retornos Acelerados (extensión de la Ley de Moore, que, con base en observaciones realizadas desde los comienzos de la industria de la computación en 1958, predice que cada dos años se duplicará el número de transistores que se pueden integrar en un circuito, lo que origina un crecimiento exponencial de la capacidad computacional. La debilidad de esta hipótesis de la ST es que no se puede extender al resto de la tecnología lo que ocurre en el campo de la computación y la informática.

Aún si la clase de riesgos derivados del desarrollo posible de una tecnología superior suenan remotos, la mera posibilidad de que se concreten en el futuro nos debería obligar a pensar con más detenimiento en cómo regular las relaciones entre el hombre y la tecnología. Entre otras cosas, esto podría implicar el desarrollo de una ética de las máquinas, o al menos, de una ética para seres inteligentes creados por el hombre.

Notas: La idea de que el terror del hombre a crear un ser inteligente es un legado de los gnósticos se deriva de la exposición que hace el Obispo Ireneo de Lyon, uno de los más conocidos apologetas cristianos, en su obra Contra los herejes. En ella Ireneo presenta las creencias de las diversas corrientes heréticas agrupadas bajo la categorías de gnósticos. Aun cuando había diferencias, la mayoría de ellas creían en un Protopadre o Creador al que llamaban Logos. Este habría engendrado seis pares de emanaciones que es lo que se conocía como Pleroma o conjunto de aspectos de la divinidad. De todas estas emanaciones, solo una, Pistis Sophia (que han traducido como la Fe de Sofía) se negó a abandonar al Padre. En lo que algunos han interpretado como un acto de curiosidad y otros como uno de deseo incestuoso, Sophia se habría volcado hacia el Creador. En algunas herejías gnósticas, Sophia y el Creador se juntan en un acto de amor incestuoso y el resultado de este es el Mundo Real; en otras, lo que engendra es al Demiurgo quien a su vez crea el Mundo Real. Sin embargo, la emanación que acompañaba a Sophia era el Cristo o Redentor. Gracias a éste, Sophia encuentra la Salvación.

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s