Chamanes y robots

Roger Bartra

• Editorial: Editorial Anagrama
• Año: 2019
• ISBN:
  9788433940919
• Categoría: Ciencias sociales
• Categoría: Antropología

Chamanes, médicos y robots: el hilo que une la iniciación chamánica, el efecto placebo y el desarrollo de conciencia en los autómatas.

Hay un hilo que conecta los procesos que desencadenan un chamán o un médico en la mente de los enfermos que quieren sanar y los mecanismos de un ingeniero para dotar a un robot de algo semejante a la conciencia. Este libro resigue ese hilo en una investigación dividida en dos partes. La primera, «Los rituales del placer y la palabra», se centra en los poderes mágicos chamánicos y el efecto placebo en medicina; la segunda, «La construcción de la conciencia artificial», explora el robot como máquina pensante y la posibilidad de que la inteligencia artificial llegue a desarrollar una versión aproxima-da una conciencia.

Esta conexión entre chamanes y robots se establece a través del sufrimiento y el placer. Los rituales de sanación de chamanes y médicos están destinados a disminuir o eliminar el dolor y los tormentos que padecen los humanos y a proporcionarles placer y bienestar. Por su parte, los robots y la inteligencia artificial tienen la misión de reducir la fatiga y las penas que afligen a los humanos cuando trabajan. Pero el problema al que se enfrentan los ingenieros es que las máquinas carecen de sensibilidad, y sin ella parece difícil que exista conciencia. He ahí la paradoja: la conciencia está sustentada en el sufrimiento, pero los humanos estamos empeñados en aliviarlo, o incluso eliminarlo. Los robots de hoy son máquinas insensibles que no sufren, y por ello no parece que puedan tener conciencia. Pero ¿acaso será posible dotarlos de ella en el futuro?

Este estimulante ensayo explora el presente y el futuro humano y robótico uniendo las dimensiones biológica y cultural, y es un nuevo paso adelante en las indagaciones multidisciplinares de Roger Bartra.

II. La construcción de una conciencia

artificial

Antropología del efecto robótico

1. EL MISTERIO DE LAS MÁQUINAS

PENSANTES

Los circuitos exocerebrales de la conciencia humana son totalmente artificiales. No tienen un carácter orgánico. Forman parte de la cultura y de las extensas redes sociales que nos rodean. Pero son capaces de producir efectos en la operación de los circuitos neuronales, como he comprobado al reflexionar sobre la influencia de los placebos en el cerebro. Los artificios del ritual médico o chamánico y de sus simulacros generan efectos en la bioquímica neuronal. Algunos segmentos de los circuitos exocerebrales son prótesis mecánicas dotadas de inteligencia artificial, como las computadoras o los teléfonos móviles. Cuando prótesis electrónicas y digitales inteligentes se conectan al cerebro, se transforman en una parte artificial e inorgánica de nuestra conciencia. Es evidente que el estudio de la manera en que se comportan estos segmentos artificiales de la conciencia tiene una gran importancia en la comprensión de las posibilidades de expansión de máquinas dotadas de una poderosa inteligencia artificial capaces de alcanzar niveles humanos e incluso superhumanos. Aquí surge la pregunta: ¿las máquinas caracterizadas por tener una potente inteligencia podrán algún día desarrollar una conciencia y una autonomía similares a las humanas? Quiero emprender un vuelo imaginario al futuro para explorar las posibles contestaciones a este interrogante.

Para levantar el vuelo es necesario partir de una teoría sobre la conciencia. Hay quienes, como Susan Blackmore, creen que la conciencia es una ilusión, un fenómeno que existe pero que no es lo que parece ser.⁵⁷ Ella llega a la conclusión de que cualquier máquina capaz de imitación podría adquirir esta clase de ilusión. Se trata, dice Blackmore, de una ilusión creada por memes con el objeto de reproducirse, pero no es otra cosa que la falsa idea de un yo consciente que persiste a lo largo de una vida. Ella ha adoptado la teoría de los memes propuesta por Richard Dawkins, que concibe la existencia de conglomerados de información cultural que funcionan como los genes biológicos.

La teoría de los memes es la base para creer que unos robots que imiten a los humanos podrían adquirir la ilusión de un yo y de una conciencia, de la misma manera en que lo hacen los humanos. Las máquinas capaces de imitar y copiar podrían albergar un proceso evolutivo de sus memes que las llevaría a convertirse eventualmente en entidades autorreplicantes, sin que este proceso de emergencia sea controlado por los humanos. Tales robots inventarían espontáneamente los procesos de autorreferencia. Se trataría de máquinas que, como nosotros, tendrían la peculiar ilusión de ser conscientes. Una ilusión es algo que engaña o provoca una falsa interpretación. Las razones por las cuales Blackmore cree saber que la conciencia es una falsa interpretación, una ilusión, son oscuras. Cuando le expuso su idea al filósofo John Searle, este la rechazó diciendo que si alguien tiene la ilusión de ser consciente, entonces es consciente. La distinción entre apariencia y realidad no puede aplicarse a la conciencia.⁵⁸ De la definición de la conciencia humana como una ilusión se desprende que los memes que operan en los robots podrían crear la misma falsa impresión de que albergan un yo dotado de continuidad. La idea de que nuestra conciencia es una ilusión nos lleva a tratar de explicar por qué somos conscientes de que nuestra conciencia es una ilusión. Esto nos introduce en una inútil regresión infinita, como ha explicado el filósofo Peter Farleigh.⁵⁹

El problema de esta teoría es que se basa en la operación de unas supuestas unidades básicas de información –los memes– cuya existencia jamás ha sido probada y cuya definición precisa brilla por su ausencia. Pero como la inteligencia artificial y los robots funcionan mediante procesos de copiado, réplica y cómputo de información, parece fácil suponer que algún día aparecerá la conciencia en unas máquinas capaces de imitar y copiar, de la misma forma en que supuestamente los memes hicieron brotar la conciencia de los humanos. Desde esta perspectiva, será cuestión de esperar a que los constructores de inteligencias artificiales, apoyados en la extraordinaria velocidad con que se desarrolla la tecnología y en la cada vez mejor calidad de las máquinas y los programas, lleguen a crear robots tan potentes que serán capaces de evolucionar hacia formas de conciencia similares a las humanas. Es una esperanza legítima que nos lleva a especular si transcurrirán decenios, siglos o milenios para que emerja esa extraordinaria singularidad.

En el polo opuesto tenemos la opinión del matemático Roger Penrose, quien está convencido de que la conciencia se basa en procesos no computacionales. En consecuencia, para Penrose es imposible que una inteligencia artificial desarrolle una mente consciente como la humana; está convencido de que un algoritmo, mediante una computadora, no puede producir una mente consciente.⁶⁰ John Searle también considera que las máquinas digitales con sus algoritmos son incapaces de comprender lo que hacen. Aunque acepta la idea de que el cerebro funciona como el algoritmo de una computadora, cree que la conciencia solo puede brotar si el programa encarna en un cuerpo biológico y no en una máquina. No quedan claras las razones por las cuales cree que se requiere forzosamente de un hardware orgánico para alojar el software inscrito en el sistema nervioso central.

Estas discusiones muestran, a mi parecer, que la exploración del territorio teórico de la conciencia y la inteligencia artificiales es una buena oportunidad para poner a prueba las teorías que tratan de explicar la manera en que la mente humana crea la identidad personal y dibuja el contorno de ese yo que percibe y siente. Por su lado, también los ingenieros dedicados a construir y programar máquinas inteligentes, si quieren crear conciencias artificiales, necesitan algunas guías teóricas que los orienten en su trabajo. Hay que admitir que la construcción de máquinas inteligentes y conscientes no está obligada a seguir exclusivamente el modelo humano. Pero sin duda el ejemplo de la conciencia humana encarnada en un organismo biológico puede estimular a los nuevos ingenieros de almas.

Desde mi punto de vista, la conciencia no es únicamente un fenómeno biológico. La conciencia es un híbrido que enlaza circuitos neuronales con redes socioculturales. Es una confluencia de señales aparentemente electroquímicas en el cerebro con símbolos culturales en el entorno social. Esta congregación es particularmente importante en los momentos en que los humanos comprueban, no sin angustia, que para sobrevivir o superar dificultades no pueden confiar ciegamente en sus recursos biológicos; tienen que acudir a apoyos extrasomáticos de carácter cultural. En estas circunstancias los circuitos cerebrales se conectan a prótesis culturales. Y en esta conexión saltan las chispas de la autoconciencia, ya que las redes neuronales se percatan de la exterioridad y extrañeza de esos canales simbólicos y lingüísticos. Los circuitos neuronales son sensibles a su carácter incompleto. Me gusta imaginar que tienen una sensibilidad como la del cangrejo ermitaño, que cuando crece tiene que abandonar desnudo un exoesqueleto ajeno para alojarse en otro más grande. La conciencia humana contiene esta clase de sensibilidad ante la incompletitud de los circuitos cerebrales y al mismo tiempo reacciona ante el hecho de que las prótesis culturales a las que se conecta tienen un carácter extraño, no biológico. El resultado es esa peculiar subjetividad que caracteriza a los humanos y que es tan difícil de explicar. Los resortes cerebrales de esta singular sensibilidad siguen siendo un misterio que los neurocientíficos deben aclarar. Son los resortes de una conexión entre señales biológicas y símbolos culturales, dos esferas muy diferentes que interactúan con precisión en forma asombrosa. No se ha logrado todavía construir una teoría unificada que abarque las dos esferas, de la misma manera que los físicos todavía no logran unificar la mecánica gravitacional con la cuántica.

El tema de la sensibilidad de los robots me recuerda un ensayo del gran escritor Heinrich von Kleist, escrito en 1810, que quiero comentar como una clave literaria para entrar al problema de la conciencia artificial. El dramaturgo alemán vivió obsesionado por el conflicto entre las emociones y la razón. Cuando estudió matemáticas y leyó a Kant perdió la fe en el conocimiento y creyó que la separación entre el yo y su entorno revelaba una trágica división entre el sujeto y el saber: con ello los humanaos quedaban condenados a la incertidumbre.

En Über das Marionettentheater, un ensayo en forma de diálogo, Kleist cuenta la historia de un muy popular bailarín, amigo suyo, que solía asistir con frecuencia al teatro de marionetas que se presentaba con gran éxito en la plaza del mercado. Los títeres solían danzar con tan extraordinaria gracia que el bailarín consideraba que superaban a los humanos. El titiritero sería como el programador de un robot que con habilidad produce el movimiento de un objeto inanimado. Kleist le comenta al bailarín que el operador de las marionetas puede hacerlas bailar sin tener ningún sentimiento o sensación, como un organillero que da vueltas a la manija de su aparato. El bailarín le replica que no es así, pues los dedos del titiritero se relacionan con los títeres como los números con respecto a los logaritmos o la asíntota con respecto a la hipérbole, aunque creía que los rastros de voluntad humana podían ser eliminados en las marionetas para que su danza fuese generada exclusivamente por fuerzas mecánicas. Algo así ocurre con el ingeniero que programa un robot: proyecta sus sentimientos en algoritmos que animan los movimientos totalmente inconscientes de la máquina.

El bailarín cree que si un artesano construyese una marioneta con las instrucciones que él ha imaginado, el títere podría bailar mucho mejor que los grandes danzarines humanos. Y, como si hubiese previsto las sofisticadas prótesis robóticas que hoy conocemos, puso el ejemplo de unas piernas artificiales fabricadas por artesanos ingleses para sustituir las que algunas personas desafortunadas han perdido. Quienes las usan son capaces de bailar con una elegancia sorprendente, dice el bailarín, lo que me recuerda a la modelo Aimee Mullins, a quien de niña tuvieron que amputarle ambas piernas, famosa por sus logros atléticos con el apoyo de muy diversas y sofisticadas prótesis. Los títeres que el bailarín tiene diseñados en su cabeza ejecutarían sus pasos con un alto nivel de flexibilidad, ligereza y armonía. Pero la gran ventaja de los títeres es que pueden actuar sin afectación, pues el operador que los controla con sus hilos hace que carezcan de vida, como puros péndulos gobernados solo por la ley de la gravedad, lo que es una excelente cualidad de la que carecen la mayoría de los humanos que danzan. Además, estos títeres tienen la ventaja de ser casi ingrávidos y por ello estar libres del mayor obstáculo en el baile: el peso del cuerpo. Igualmente, el ingeniero que construye un robot sabe que la máquina carece de vida y está libre del peso de los males que afectan a los seres humanos.

Los bailarines son demasiado conscientes de cada uno de sus movimientos. Kleist le contesta que nunca creerá que un títere mecánico pueda tener más gracia que un cuerpo humano vivo. El bailarín le contesta que, en materia de gracia y elegancia, un humano jamás puede alcanzar el nivel de una marioneta. La explicación la encuentra en el tercer capítulo del libro del Génesis: la conciencia estorba a la gracia natural, esa inocencia que existía en el Paraíso original, antes de que Adán y Eva comiesen los frutos de árbol de la ciencia. Hay que entender que el espíritu no puede errar allí donde no hay espíritu, como en las marionetas. Así, continuando con el paralelismo, unos zombis inconscientes, unos androides artificiales, podrían actuar mejor y ser más inteligentes que los humanos que los han construido. En el mundo orgánico, dice el bailarín, conforme la reflexión se oscurece y se debilita, la gracia emerge con más decisión y brillo. La gracia brota con gran pureza allí donde no hay conciencia o bien donde la conciencia es infinita. Es decir, aparece en el títere o en el dios. Kleist le pregunta asombrado si debemos volver a comer del árbol de la ciencia para regresar al estado original de inocencia. El bailarín le dice que sí, pero que ese sería el último capítulo en la historia del mundo. Al año siguiente de escribir este ensayo, Kleist llegó al último capítulo en la historia de su vida, después de sellar uno de los más famosos pactos suicidas en la historia de la literatura. Su amada amiga Henriette Vogel, enferma terminal, aparentemente le pidió que la matara. Se retiraron a la orilla del Kleiner Wannsee, un lago a las afueras de Berlín; allí Kleist la mató de un disparo e inmediatamente después se suicidó.

¿Kleist decidió matarse porque se dio cuenta de que nunca podría ser ni como las marionetas ni como los dioses? Acaso no soportó el peso de su conciencia solitaria y limitada. Por eso el titiritero que describió en su ensayo procura extinguir las chispas de la conciencia que podrían encender al muñeco inanimado. Por el contrario, en los humanos las chispas de la autoconciencia saltan cuando sus circuitos neuronales se conectan con las prótesis exocerebrales. Las reflexiones de Kleist tienen más de dos siglos de antigüedad y sin embargo si las aplicamos a la relación entre humanos y robots adquieren actualidad. Nos hacen meditar, por ejemplo, en un problema ético: ¿es insensato que los humanos quieran construir máquinas dotadas de una conciencia artificial? ¿No es mejor dejar que las máquinas sean inconscientes, como los títeres de Kleist? Él vería con alarma la posibilidad de transmitir a las máquinas inteligentes el pecado de la conciencia y seguramente preferiría que se mantuviesen como robots insensibles.

2. EL EFECTO ROBÓTICO

Cuando un médico o un chamán realiza un ritual simbólico se suele producir un efecto biológico comprobable, el llamado efecto placebo. De manera similar, cuando un ingeniero crea un programa y lo inserta en una máquina produce un efecto mecánico útil. Lo podríamos llamar el efecto robótico. En ambos casos hay un artificio intelectual que provoca efectos tangibles en un cuerpo, sea orgánico o mecánico. En el caso del efecto placebo hay un requisito indispensable sin el cual no opera: el sujeto cuyo cuerpo se quiere sanar debe ser plenamente consciente de que está siendo sometido a un proceso de curación. Pero la persona no es consciente de que se le están administrando fármacos inocuos. En contraste, la máquina dotada de un programa de cómputo no es consciente de lo que está sucediendo, lo cual no impide que se produzca un efecto robótico y el artefacto se ponga a funcionar encaminado a un objetivo predeterminado. La comunidad científica no cree que los robots, tal como los conocemos hoy, tengan una conciencia similar a la humana (y ni siquiera parecida a la de un ratón o un conejo).

Los robots que conocemos son dispositivos que pueden realizar tareas de forma relativamente autónoma, perciben su entorno y logran actuar intencionalmente porque tienen incorporada una inteligencia artificial creada por el ingenio humano.⁶¹ Los robots no suelen ser capaces de obtener en forma autónoma la energía que necesitan para sustentarse, no se autorreparan ni crecen físicamente y tampoco se reproducen fabricando copias de sí mismos. No es imposible que puedan lograr estas proezas y de hecho ya hay casos en los cuales estas incapacidades se intentan superar. Por ejemplo, existe un robot, llamado EcoBot III, que tiene un sistema digestivo artificial que funciona con una celdilla de combustible microbiano capaz de generar energía eléctrica a partir de una reacción bioquímica. Este sistema digestivo se alimenta de moscas. En su primera versión, este EcoBot, capaz de moverse con la energía eléctrica autogenerada, debía ser alimentado manualmente. Pero en la última versión el aparato tiene un sistema sofisticado para atraer a las moscas mediante colores y olores. Las moscas atrapadas caen en un depósito que contiene un caldo bacteriano capaz de digerir y degradar al insecto para generar la electricidad necesaria para alimentar su motor. El EcoBot se desplaza con ruedas sobre un charco de agua en un tanque cerrado lleno de moscas. Como necesita agua para su metabolismo, la absorbe mediante un tubo. Este modelo experimental es el único robot existente que es capaz de conseguir en forma autónoma la comida que necesita para generar energía suficiente para moverse y trabajar.⁶²

La autorreparación física de un sistema robótico es algo que de momento solo existe en la imaginación. Los robots no se curan a sí mismos ni reparan una pieza si se les estropea. Tampoco crecen físicamente con el tiempo. Sin embargo, a nivel puramente informático, sin conexión a máquinas operativas, es posible crear programas de crecimiento y autocuración. A este nivel es posible también lograr la reproducción mediante copiado y réplica de datos. Se trata de modelos computacionales muy sofisticados y complejos capaces de imitar muy diversos procesos biológicos, neuronales y sociales.

Veamos un ejemplo que es más que un modelo o una simulación, pues tiene una utilidad práctica y precisa. Se trata del llamado Agente de Distribución Inteligente (IDA, por sus siglas en inglés), desarrollado para la Marina de Estados Unidos.⁶³ Al finalizar cada ciclo de tareas, es necesario asignar a los marinos un nuevo conjunto de deberes. Para ello se usa el sistema IDA que automatiza totalmente la distribución y asignación de tareas. Para ello IDA se comunica por correo electrónico con los marinos e inicia incluso conversaciones normales con ellos mediante cartas que parecen escritas por humanos. Como agente, IDA debe adecuarse a las necesidades de la Marina, a las reglas establecidas, a los costos estimados y a los deseos o necesidades de cada marino. IDA es capaz de procesar mensajes que le llegan en lenguaje natural. A su manera, entiende, reconoce y clasifica el contenido de los mensajes. Su «comprensión» es muy elemental y superficial, pero es suficiente para procesar la información. IDA tiene memorias y un espacio de trabajo donde procesa la información que recibe. Incluso es capaz de simular emociones, como cuando muestra ansiedad por no convencer a un marino de que acepte una tarea, o de manifestar frustración cuando no entiende un mensaje. El sistema opera con muchos miniprocesos relativamente independientes y con propósitos especiales (llamados codelets). Gracias a ello IDA puede crear posibles escenarios y planes de acción para después elegir entre ellos el más adecuado. Así, IDA le ofrece al marino una opción y es capaz de negociar cambios para satisfacerlo. Con el trabajo que IDA realiza va aprendiendo mediante procesos asociativos.

El creador de IDA, Stan Franklin, no le atribuye a su artefacto una conciencia fenoménica. Pero cree que la atribución a las máquinas de una conciencia de este tipo es meramente una actitud de los que observan el artefacto. Se trata solamente de un p...