Cómo avanza en el mundo el sueño/pesadilla de que la IA prediga lo que vas a pensar y hacer. Cómo esto revive el debate entre determinismo y libre albedrío. Y cómo un grupo de investigadores chilenos le da un giro novedoso a esa tendencia y usa la IA para intentar predecir el comportamiento social.
En teoría, una IA con acceso a todo lo que piensas, podría predecir si un nuevo champú te va a gustar, si vas a seguir leyendo esta nota, o cómo vas a votar en la próxima elección. Ese sueño/pesadilla futurista, sin embargo, depende de varios factores. Uno muy importante es que la naturaleza humana sea determinista, es decir, que el libre albedrío no exista; o que al menos el acto de “decidir libremente entre A y B” no pueda evitar que seas predecible. Si nuestro comportamiento se explica por una serie de factores biológicos y sociales que nos mueven inevitablemente hacia A, entonces la IA solo necesitaría conocer esos factores para anticipar nuestro siguiente movimiento. Más adelante se abordará la evidencia que hay a favor y en contra del determinismo. Por ahora supongamos que es cierto. Eso no hace simple el camino que queda. Un segundo factor clave para una IA predictiva es ser capaces de desentrañar nuestro mecanismo de toma de decisiones en el que se influyen razones e intuiciones. Los sistemas computacionales aprendieron muy rápido a dominar el aspecto lógico; pero aún el espacio intuitivo se les escapa. Por ello una parte de la feroz competencia de las grandes empresas tecnológicas es conseguir métodos para hacer que las razones latentes que explican nuestras decisiones, se revelen. El camino que la mayoría de esas compañía sigue es capturar toda la información que expresa la personalidad de las personas, desde el etiquetado de las fotos en una red social a los productos que compra o los videos que mira con más atención. En teoría si sabes todo, todo, todo lo que decide alguien, lo pequeño y lo grande, lo que piensa y lo que siente, deberías poder detectar los patrones que rigen el mundo intuitivo de esa persona.
Actualmente, en Chile, hay un grupo de investigadores del Instituto Milenio de Fundamentos de los Datos (IMFD) que avanza en un sistema que intenta conocer al individuo y predecir su comportamiento social. Una gran innovación de este proyecto llamado VOCES (ver barra lateral) es que usa como herramienta principal entrevistas a fondo, de más de una hora y media, y no variables o simulaciones algorítmicas como se suele hacer. Esas entrevistas son hechas por especialistas que saben del contexto de las personas entrevistadas y que ayudan a la IA a entender lo que no se dice explícitamente. Además, VOCES se enfoca sólo en los individuos, sino que busca anticipar las opiniones de los grupos, jugándose las cartas a que, aunque las personas puedan ser impredecibles, la interacción del grupo generará regularidades que las entrevistas a fondo pueden capturar. Sergio Toro, Decano de la Facultad de Ciencias Sociales y Artes de la Universidad Mayor, es uno de los líderes de esta investigación y aquí aborda el desafío que implica la intuición y cómo trabajan para hacer visibles las razones latentes a través de la creación de lo que hoy se conoce como gemelos digitales.
-¿Qué es lo que están esperando conseguir con este proyecto?
-Voy a explicarlo así: si tengo mucha información sobre una persona ¿es posible configurar un individuo digital, un gemelo, que me diga algo que la persona nunca dijo de manera explícita? Por ejemplo, si al entrevistarte no te pregunté sobre tus gustos en bebidas gaseosas, ¿es posible que tu gemelo digital diga que te gusta la bebida X? La segunda pregunta que nos interesa es, si al gemelo que ha sido construido con tus opiniones le entregamos determinados estímulos sociales y políticos, ¿podrá predecir tu comportamiento?
-Creer que eso es posible me parece que implica una posición determinista ¿Eres determinista?
-Soy escéptico. Creo que somos más bien aleatorios en nuestra toma de decisiones y no creo que puedas generar predicciones ciento por ciento acertadas sobre la conducta de un individuo, porque su estructura de pensamiento tiene aspectos que no son predecibles. En un momento pueden tener una posición respecto de un tema y enseguida cambiar. Y puedes tener todas las variables y no lograr explicar un comportamiento.
-Si eso es así, ¿qué haría funcionar a un gemelo digital?
-Nosotros nos enfocamos en grupos más que en individuos. Pero déjame poner antes un poco de contexto. Si adaptamos la tesis de Alan Turing en 1938 -el mismo de la película “El Código Enigma”-, podemos asumir que el ser humano tiene dos mecanismos que explican sus decisiones. En el primero, que llamamos “ingenio”, se toman decisiones en función de lógicas racionales y modelando patrones de la realidad. La IA es muy buena en ese ámbito, desde hace tiempo. De hecho, una de las primeras cosas que dominó completamente fue un juego que es puro ingenio, el ajedrez. Ese juego te obliga a pensar que, si te mueves ahí, la otra persona va a contestar acá; y la decisión que tomas depende de la probabilidad de que esas sean efectivamente las jugadas futuras. Pero hay un segundo nivel que es muy difícil para la IA y tiene que ver con la intuición, es decir, con los múltiples factores que te constituyen: tu biología, tu educación, tu historia y la de tu comunidad, etcétera. Esa mezcla de razones subyacentes está muy presente en tu toma de decisiones y tengo la impresión de que este segundo nivel pesa más en las decisiones humanas que el ingenio. La intuición no la computas racionalmente, es el material con el que trabajan los psicólogos. La gran dificultad de un gemelo digital está en ese material.
-¿Cómo se está trabajando en esa frontera?
-Algunas grandes empresas, como Meta, han creado desde hace tiempo una gran cantidad de instrumentos digitales que capturan tus decisiones: lo que escribes en el chat, las fotos que colocas en la red social; toda esa información es analizada y, poco a poco, revela los patrones de tus decisiones. Por eso hoy muchas empresas buscan capturar tu vida personal: quieren resolver el tema de la intuición. Entre paréntesis, esto hace muy importante establecer normas de seguridad digital, es decir, definir claramente qué puede saber una empresa sobre ti. Porque la posibilidad de que el sistema te conozca más allá de lo que quieres, que te conozca de una forma que te perjudica, está relacionada con su capacidad de acceder a tu vida entera. Para los que somos más viejos, todavía hay una parte de nuestros datos que no están digitalizados y el sistema los tiene que recuperar de manera indirecta. Pero las nuevas generaciones están siendo seguidas desde la infancia, desde que los pusiste frente a la televisión y tomaron la decisión de ver un dibujo animado u otro.
«Volviendo al tema de las fronteras de esta tecnología, en teoría si la máquina tuviera acceso a todos tus datos, podría generar patrones muy confiables sobre tu comportamiento. Pero por ahora no tiene acceso a tu inconsciente, a las experiencias que te empujan hacia algo sin que siquiera te des cuenta; tampoco tiene acceso a lo que sientes. Por eso Facebook inventó las caritas para evaluar fotos o hechos, porque así demuestras lo que sientes. Y ahora todas las redes sociales lo aplican. Eso no es lo mismo que saber lo que sientes, pero está arrojando resultados. Por ejemplo, con los datos que hoy entregamos y con las búsquedas que realizamos, los sistemas ya saben cosas sobre uno que no necesariamente hemos dicho. Al ver ciertos patrones, las IA de las redes sociales pueden estimar que te divorciaste o que estás enfermo y empezar a enviarte publicidad relacionada con esos cambios. Ese poder sin duda se va a incrementar porque cada vez vamos a contar con recursos que te permitan procesar más rápida y eficientemente toda la información que se está obteniendo.»
-En qué se diferencia ese uso de lo que hacen ustedes.
– Nosotros no buscamos predecir el comportamiento de un individuo concreto por lo que no usamos ningún tipo de información de las redes. Lo que nos interesa saber es, por ejemplo, qué puede opinar una población sobre la construcción de un puente en una zona determinada. Buscamos modelar grupos, esperando que funcione lo que la ciencia social clásica denomina teoría de la norma emergente, es decir, que, aunque las acciones individuales puedan parecer extremas, la interacción dentro del grupo genera normas sociales compartidas. Entonces, el gemelo digital que estamos desarrollando obtiene su memoria inicial a partir de un conjunto de entrevistas muy extensas con personas de una comunidad. Por ejemplo, sobre el temor que pueden sentir respecto a la violencia en La Araucanía, o las causas que la persona ve en esa violencia. Es decir, indagamos en la percepción política y en la razón por la que tiene esa percepción. Con esas entrevistas, que llamamos “memorias iniciales” buscamos recuperar “la intuición del grupo”. La idea es que el agregado de individuos se pueda transformar en una suerte de gemelo de la comunidad, de “representante del grupo”, y ese gemelo nos conteste a partir de lo que los vecinos nos dijeron.
¿MEJOR QUE LAS ENCUESTAS?
-¿Las entrevistas que hacen las procesa la IA para para extraer las causas latentes de las decisiones de las personas?
-Eso es un asunto que hemos investigado durante un tiempo y seguimos examinando. ¿Quién detecta mejor las estructuras latentes, las personas o la IA? Lo que hemos visto es que hay estructuras que los modelos de IA empaquetados no logran observar.
-¿Por ejemplo?
-Imagina que una persona te dice “no me gusta la política, son todos malos” y no muestra preferencia por ningún candidato, pero, al mismo, tiempo se muestra muy conservadora en muchas áreas. Cuando le pides a un modelo de lenguaje extendido que no está entrenado que la posicione políticamente, te la ubicará como alguien a quien no le interesa la política, cuando en realidad, en su trayectoria de vida, puede haber mostrado una alta valoración del patriotismo y de las jerarquías, constitutivas de preferencias políticas claramente conservadoras. Para alguien entrenado, eso resulta claro. Entonces, estos métodos siguen siendo ineficaces para capturar las trayectorias individuales. Aún es el ser humano quien capta e interpreta mejor las vivencias de los demás, precisamente gracias a la intuición. Por esta razón, decidimos realizar varios pasos previos. El primero es que los profesionales que aplican las entrevistas estén muy entrenados, sean conocedores del territorio y sean capaces de detectar características latentes. Entonces estas entrevistas están basadas en la experiencia y la intuición y saltan de un tema a otro para entender las contradicciones de las personas. Nuestro proceso implica confirmar nuestras impresiones con el entrevistado en un proceso iterativo, recopilar información de su entorno y levantar los estatus adscritos y adquiridos a través de las notas de investigación. Este método emula la libretita del etnógrafo, algo que no es para nada digital y que parecía olvidado, pero que tiene su lugar.
«Luego procesamos las transcripciones y usamos modelos de agentes para integrar ese proceso de descripción densa en la IA. Es una especie de entrenamiento de la máquina en la intuición, que procesa una gran cantidad de datos y entrevistas necesarios para captar las trayectorias. Con esta misma lógica puedes establecer vínculos entre las personas, cruzar información y así realizar buenos análisis para quienes busquen mirar los territorios, el mercado o los grupos que surjan.»
-¿Cree que este sistema puede reemplazar a las encuestas?
-No creo en los reemplazos de herramientas metodológicas. Cada una tiene sus ventajas y limitaciones. Una encuesta de calidad que se ocupa seriamente de reducir errores en la medición y representación es un instrumento muy valioso para la investigación social. Lo que debiera ir en retirada son las encuestas de mala calidad que divulgan preferencias y conductas sin rigor científico.
– Se me ocurre que un sistema como ese debería poder predecir el comportamiento legislativo de los parlamentarios, pues hay abundante información pública sobre ellos, su historia, sus preferencias en determinados temas.
-Hay otro proyecto en el Instituto Milenio que consiste en generar modelos digitales de los parlamentarios, usando una gran cantidad de información de prensa, intervenciones en el Congreso, decisiones y votaciones sobre diversos temas, que permiten identificar patrones. Tienes también información transparentada a partir de la Ley de Lobby. La información secundaria está, pero lo que falta es la posibilidad de contar con información primaria mediante entrevistas. Teniendo esa “memoria inicial”, creo que se podría modelar un comportamiento. Hay un supuesto muy fuerte que ayudaría a la eficacia de estos modelos, que es que conocemos su motivación. Los parlamentarios basan sus acciones en el interés de carrera y en el interés individual en ser reelectos o en avanzar en su carrera política.
-Medio en broma, medio en serio diría, por mi experiencia con políticos, que no hay forma en que un político diga lo que de verdad piensa en una entrevista. Lo que dicen, salvo que los pilles volando bajo, tiene objetivos políticos concretos.
-Claro, su respuesta tiene que ver con qué conviene decir en un momento determinado. A veces, lo que dice coincide con su opinión, pero tiene muy claro que no puede decir determinadas cosas, aunque crea en ellas.
¿ESTAMOS DETERMINADOS?
En los siglos XVI-XVII las congregaciones católicas de los Dominicos y los Jesuitas se tensaron en una disputa intensa: en un universo creado por un Dios que todo lo ve y todo lo sabe, ¿qué lugar tiene el libre albedrío? El debate tenía su antecedente en las posiciones luteranas y calvinistas que sostenían que, dado que Dios conocía todo, no cabía otra posibilidad que estuviéramos predestinados a ser salvados o condenados. El problema de esta posición es obvio: si Dios sabe infaliblemente que Pedro va a pecar ¿cómo puede Pedro ser libre para tomar una decisión? Esta mirada implica que obrar mal es un acto determinado por Dios, por lo que el pecado y el crimen serían Su voluntad.
En el Concilio de Trento (1545–1563) la Iglesia católica rechazó ese determinismo, pero dejó sin explicar cómo exactamente se vinculaban la libertad humana y el Dios que lo sabe todo. Dominicos y jesuitas se lanzaron a llenar ese vacío. Rápidamente adoptaron posiciones opuestas y se acusaron mutuamente de herejía, cosa que por entonces era muy grave (los acusados de herejía siguieron siendo asesinados hasta 1826). En una versión muy sintética de ese debate podemos decir que los dominicos rechazaron cualquier explicación que limitara la capacidad de Dios. Y dado que Él lo sabía todo y era la causa de lo que existe y de lo que ocurre, el argumento dominico arrinconaba nuestra capacidad de decidir a la mera “forma” en que cada uno lleva a cabo Su voluntad.
Para los jesuitas esta postura estaba muy cerca de la predestinación protestante e idearon un modelo en el que la libertad humana recuperara protagonismo y nos permitiera ser responsables de nuestros actos. Propusieron que Dios conoce todos los posibles e infinitos resultados de nuestras cadenas de actos, pero no conoce lo que efectivamente haremos.
En resumen, uno de los ejes principales de esta disputa tenía que ver con la información: cuanto más supiera Dios sobre nuestros actos, menos libertad humana era posible. Y viceversa.
La iglesia no consiguió decidirse por ninguna de las dos posiciones y luego de casi 100 años de debates teológicos, permitió a cada congregación enseñar su forma de entender los límites del libre albedrío.
El debate del siglo XVII, que estaba sostenido solo en estructuras argumentales que buscaban ser fieles al texto bíblico y a la doctrina de la Iglesia, ha vuelto a agitarse durante las últimas décadas a partir de los datos y las evidencias obtenidas tanto por las investigaciones de la neurociencia, como por lo que ha logrado y teóricamente podría lograr una IA que cada vez maneja más información sobre nuestro comportamiento.
En el caso de la neurociencia el nuevo impulso del determinismo ha provenido, por ejemplo, de las investigaciones que hizo en los ochenta Benjamin Libet quien mostró que 350 milisegundos antes de que decidas mover un dedo, tu cerebro inicia procesos inconscientes para llevar a cabo esa tarea. Esa evidencia desconcertante (¿por qué el cuerpo se prepara para hacerlo que no has decidido?) ha llevado a dudar de que la conciencia sea la principal causa de nuestros actos y a verla, más bien, como una “ilusión cómoda”, como un proceso que sirve más que nada para validar “decisiones” que se tomaron por debajo de nuestra racionalidad. Sobre la evidencia a favor del determinismo una buena lectura es el libro Determinados en el que el biólogo y neurólogo de la Universidad de Stanford Robert Sapolsky reúne evidencia variada que, en sus palabras, “no deja espacio para el libre albedrío”, al menos no como lo entendemos hoy.
Aunque los experimentos de Libet no han sido rebatidos, el argumento determinista que se construye sobre ellos sí ha sido puesto en duda por una corriente que intenta generar un espacio para el libre albedrío. Por una parte, el movimiento espontáneo de un dedo no parece suficiente argumento para echar por la borda la libertad de decisión, la que sí debería estar presente en problemas más complejos y que reflexionamos por más tiempo. Por otra parte, se argumenta que la conciencia – que en el experimento de Libet no parece ser la causa que genera la decisión de mover un dedo – es un proceso evolutivo demasiado costoso y complejo como para ser apenas una ilusión, como argumentan algunos deterministas.
Hoy la posición dominante en las ciencias y en la filosofía es el compatibilismo que propone que estar determinados y poder decidir libremente no son incompatibles. Esto, por supuesto, solo es posible si se redefine lo que entendemos por “decidir libremente”. En efecto ser libre, para los compatibilistas, no implica que no estemos determinados en nuestras decisiones sino que actuemos según los propios deseos y razones, sin coerción externa. Es decir, si los actos humanos emergen de una zona por debajo de la conciencia, eso no impediría llamarlos actos “libres”.
El avance de los sistemas de procesamiento de datos, que permiten manejar cantidades sorprendentes de información, unido al desarrollo de una IA que imita formas del pensamiento humano, le han agregado nuevas perspectivas al debate sobre el libre albedrio. Como se discutió más arriba el aumento de las capacidades de computar levanta la posibilidad de que nuestros patrones de pensamiento intuitivos logren ser transformados en datos. ¿Qué implica eso? Imagina, por ejemplo, que es posible generar una IA que puede predecirte a gran velocidad, de modo que cuando dices algo, tu voz es el eco de la máquina… en una situación tan extrema, nuestra experiencia íntima de libertad y autoría quedaría tan desafiada que habría que aplicar mucho ingenio para defenderla. Y aun teniendo éxito en esa empresa, es posible que solo salvemos una idea muy reformulada y matizada de nuestra libertad.
Un escenario como ese puede no ser posible, pero cuanto más cerca esté la IA de eso, más nos forzará a repensar lo que entendemos por libertad.
Sergio Toro Maureira