Descolonizando la inteligencia artificial por Kanta Dihal

“Las narrativas son desproporcionadamente influyentes en el despliegue de la IA porque tiene una historia narrativa tan sólida que muchos otros campos científicos no tienen.”

Kanta Dihal investiga narrativas de IA, explorando su impacto cultural y proponiendo diversificar las perspectivas más allá de Occidente.

La Dra. Kanta Dihal es investigadora principal en el Centro Leverhulme para el Futuro de la Inteligencia de la Universidad de Cambridge. Dirige dos proyectos de investigación, Global AI Narratives y Decolonizing AI, en los que explora la comprensión pública intercultural de la inteligencia artificial tal como se construye a partir de narrativas ficticias y no ficticias. El trabajo de Kanta se relaciona con los campos de la comunicación científica, la literatura, la ciencia, y la ciencia ficción. Tiene un doctorado en comunicación científica de la Universidad de Oxford: en su tesis, ‘The Stories of Quantum Physics‘, investigó la comunicación de interpretaciones conflictivas de la física cuántica a adultos y niños. Es coeditora de los libros AI Narratives: A History of Imaginative Thinking About Intelligent Machines (Oxford University Press, 2020) e Imagining AI: How the World Sees Intelligent Machines (Oxford University Press, 2022) y ha sido coautora de una serie de artículos sobre narrativas de IA con el Dr. Stephen Cave, incluido ‘The Whiteness of AI’ ( Philosophy and Technology, 2020).

En los últimos años ha trabajado intensamente en la intersección de la historia, la cultura popular, la inteligencia artificial y también la teoría crítica de la raza. ¿Cómo llegó a este apasionante campo de trabajo interdisciplinario?

Empecé en 2008 como investigadora literaria en la Universidad de Leiden, donde me centré en el poscolonialismo. Continué con un máster de investigación centrado en las narrativas de temas científicos, lo que me llevó a realizar mi doctorado en la Universidad de Oxford en comunicación científica. Me centré en la comunicación de la física cuántica y en cómo se explican temas realmente difíciles como la física cuántica a personas sin conocimientos previos de física.

Ahora, como investigador senior en Cambridge, pasé al ámbito de la IA, donde puedo reunir todo para preguntar cómo las historias sobre temas científicos complejos afectan a diferentes sociedades de manera diferencial en relación con su condición de antiguas colonias.

Junto con mi coautor Steven Cave, estoy dando seguimiento a la investigación que iniciamos con nuestro artículo ‘The Whiteness of AI’ (2020) sobre la cuestión de las representaciones de la inteligencia artificial como étnicamente blanca, y la ideología que se expresa en las representaciones de la inteligencia artificial en las visiones del futuro, y las personas que dejan de lado. Las narrativas son desproporcionadamente influyentes en el despliegue de la IA porque tiene una historia narrativa tan sólida que muchos otros campos científicos no tienen. Así que este es un campo en el que mi trabajo, teniendo esa historia de trabajo en narrativas de la ciencia, puede marcar una gran diferencia.

Tienes un enfoque global sobre el tema. ¿Cómo sucedió eso?

Mi investigación sobre inteligencia artificial surgió a partir de un análisis inicial de las narrativas que prevalecen en Estados Unidos y el Reino Unido, es decir, el tipo de narrativas que influyen en las historias de los medios de comunicación aquí en el Reino Unido, donde resido ahora. Nos dimos cuenta de lo limitadas que eran, de cómo se basaban en un conjunto muy pequeño de narrativas; siempre se trata de Terminator o de las leyes de Asimov.

Empezamos a pensar en alternativas y a buscar visiones que no fueran solo de Hollywood. A medida que avanzamos, decidimos investigar en profundidad y observar cómo las distintas partes del mundo imaginan la vida con máquinas inteligentes, porque la narrativa de Hollywood es muy fuerte y se está extendiendo a partes del mundo que no son el tema de estas películas de Hollywood. Entonces, ¿cómo chocan estas percepciones americanizadas con las percepciones locales? Por supuesto, encontramos muchas narrativas alternativas que podrían ser mucho más productivas para usar en el discurso sobre la IA en todo el mundo y una alternativa mucho mejor a Terminator.

Para profundizar…

¿Podrías contarnos un poco más sobre esta historia de las narrativas de IA en Europa y Estados Unidos?

La historia de las narraciones sobre máquinas inteligentes es antigua. Se remonta a la antigua Grecia, donde la referencia más antigua que encontramos fue en la Ilíada, donde el dios griego Hefesto creó mujeres artificiales para que lo ayudaran en su fragua. Lo que hemos notado es que estas narraciones no solo son antiguas, sino que han prevalecido y en gran medida no han cambiado a lo largo de la historia. Hefesto y las sirvientas es una historia y un tema que continúa recurriendo y todavía existe en varias formas. Puedes verlo ahora en representaciones del siglo XXI como la película Her o como la serie de televisión Humans .

Otro que ha existido desde la antigua Grecia, también atribuido a Hefesto, es una creación llamada Talos, un gigante de bronce que patrulla Creta y lanza rocas a los piratas. En cierto sentido, Talos es el primer robot asesino y el primer sistema de armas autónomo artificial. En su encarnación como soldado de bronce, ha sido recurrente a lo largo de la historia hasta nuestros días. Tenemos representaciones ficticias en la Edad Media de caballeros de bronce y luego, en el siglo XX y XXI, tenemos a Terminator; un robot asesino que parece un humano. Nuevamente, el arma artificial con forma humana tiene literalmente casi 3000 años.

Steven Cave y yo hemos identificado cuatro representaciones utópicas o distópicas de la inteligencia artificial que se repiten a lo largo de la historia. Esa historia es tan antigua y prácticamente no ha cambiado, que esas narrativas influyen en cómo se habla de la inteligencia artificial hoy en día.

¿Y cuáles son esas cuatro representaciones?

Así que, en términos de las “cuatro esperanzas”, tienes la esperanza de inmortalidad, de salud, de estar libre de enfermedades, de poder y, eventualmente, de cosas como la transferencia de la mente, como la ideación cyborg o la transferencia a cuerpos artificiales.

La esperanza en cuanto al tiempo es que, si tienes una vida infinitamente prolongada, no querrás pasarla haciendo todo tipo de trabajos pesados y, por lo tanto, los robots se encargarán de todas esas tareas. Luego está la gratificación del deseo, la esperanza de que las interacciones sociales también se automaticen. Esto incluye cosas como tener amigos, amantes o familiares artificiales. Y luego el poder, es decir, el robot asesino que nos defiende del mal; cualquier cosa que pueda amenazar ese tipo de utopía.

Pero esas cuatro esperanzas se alimentan de miedos. Junto con la esperanza de la inmortalidad existe el miedo a la inhumanidad. La idea de que si nos subimos a la nube, perderemos nuestra personalidad y dejaremos de ser humanos. La otra cara de la facilidad es la obsolescencia, que los robots se apoderarán de todo, que no tendremos trabajo, ningún propósito y que nos aburriremos infinitamente. Con la gratificación existe el miedo a la alienación. Es decir, el miedo a que nos volvamos esencialmente obsoletos unos para otros. Si todos prefieren tener interacciones con robots, los humanos ya no nos necesitaremos unos a otros. Y eso, de nuevo, nos hace perder una parte esencial de nuestra humanidad, el lado social. Y, por supuesto, la otra cara del deseo de poder, protección y seguridad es que nos veamos dominados por el robot.

¿Podría contarnos más sobre las diferentes formas en que diferentes culturas, no la occidental, han imaginado la inteligencia alternativa?

En muchas partes del mundo, la imaginación de máquinas inteligentes ha formado parte de las narrativas. Tenemos relatos sobre creaciones similares a máquinas inteligentes, por ejemplo, de la antigua China y la India.

En la antigua China, existía una historia sobre un robot vestido de mujer que engañaba a la gente haciéndoles creer que era humano. En la India, existía una historia sobre la cueva donde yacía enterrado el cuerpo de Buda, custodiado por robots plateados. Así que, aunque la terminología está muy tomada de Europa, la idea siempre ha estado ahí.

Y hasta cierto punto, estas narrativas han evolucionado de manera independiente. Y la evolución independiente más fuerte de estas narrativas se da en Japón, donde realmente hay una percepción muy diferente de lo que significa vivir con máquinas inteligentes. Por lo tanto, una especie de explicación abreviada que la gente suele dar es que tiene que ver con el espiritualismo japonés; como todo está imbuido de espíritus, la frontera entre humanos/máquinas/animales/cosas inanimadas es mucho más vaga y borrosa. Ahora bien, en realidad, es mucho más complejo que eso. Pero hasta ahora, lo que hemos visto en Japón es que a partir del siglo XX, la inteligencia artificial se ha representado predominantemente como algo positivo y no como una amenaza.

¿Cuáles son las principales diferencias entre las narrativas de IA que has estudiado en todo el mundo?

Un hallazgo importante es exactamente cuánto han influido las narrativas occidentales en grandes partes del mundo. Y eso se debe en parte a historias más antiguas de imperialismo cultural, es decir, el intento de erradicar las culturas nativas mediante la reeducación o mediante intentos deliberados de no preservar cosas como los sistemas de escritura que dejaron un vacío que se llenó a la fuerza con las narrativas del colonizador.

Esa brecha se ha perpetuado hasta el momento de la descolonización, que en muchas partes del mundo fue a mediados o finales del siglo XX. Así, por ejemplo, vimos que Terminator es una figura prácticamente universalmente conocida. Por un lado, hay intentos muy fuertes de recuperar todas las narrativas “perdidas”, como las narrativas chinas y las indias antiguas. Por otro lado, hay un impulso para crear nuevas narrativas que representen la experiencia vivida actual de las personas, cuando esa experiencia vivida no tiene nada que ver con la vida retratada en una película de Hollywood. Así que, especialmente en América Latina y en el África subsahariana, se están desarrollando nuevas narrativas muy fuertes con una agenda explícitamente descolonial.

¿Tiene usted algún ejemplo en el que las innovaciones o tecnologías hayan sido moldeadas por estas diferentes narrativas e historias?

Una de las principales influencias, especialmente en Occidente, es que los robots deben parecerse a los humanos. Esto se debe a que, durante mucho tiempo, en las narraciones se han parecido a los humanos y, hasta cierto punto, no se pueden distinguir de ellos. Y eso ha influido mucho en la percepción popular de la robótica, incluso cuando la propia robótica se estaba desarrollando en todo tipo de direcciones que no se parecían en nada a las de los humanos. Ahora tenemos robots en todas las grandes fábricas y ninguno de ellos se parece en nada a un humano.

Pero existen robots como Pepper, ASIMO y Sophia que no son tan útiles. Son muy efectistas, tienen muchas visitas y muchos “me gusta” en YouTube. Existe una enorme discrepancia entre lo que la gente piensa que son y cómo deberían ser los robots y cómo son los robots que tienen éxito en su trabajo.

Como ya se ha dicho, en Japón es mucho más difuso porque hay mucho menos antropomorfismo. Quiero decir, una de las representaciones más famosas de una inteligencia artificial en la historia de la animación japonesa es Doraemon, que es un gato azul. Cuando uno de los robots más famosos no parece un humano, genera expectativas de una manera muy diferente.

Respecto a su investigación sobre la IA y la blancura, ¿podría darnos su interpretación de la blancura de la IA?

En el mundo angloparlante occidental, esta historia se remonta al desarrollo del término inteligencia a finales del siglo XIX. Steven Cave ha escrito un excelente artículo sobre el desarrollo del término inteligencia, cómo se medía y cómo eso influyó en lo que se convirtió la inteligencia artificial.

A medida que la gente empezó a pensar en la raza de una manera científica (para poder afirmar que el hombre blanco era el máximo civilizado y que todos los demás estaban por debajo de ese nivel), se inventaron varias estrategias, incluida la medición de la capacidad mental. Con el objetivo de demostrar que los hombres eran más inteligentes que las mujeres y que los blancos eran más inteligentes que las personas de color, tuvieron que superar una serie de obstáculos artificiales.

Se crearon pruebas que estaban muy relacionadas con el entorno y los antecedentes de las personas, de modo que las personas con el tipo de antecedentes adecuados respondían mucho mejor a estas preguntas que las personas que no tenían los antecedentes educativos o sociales requeridos. El LSAT, el examen de admisión a las universidades de Estados Unidos, se desarrolló con el fin de mantener a las universidades blancas. Ahora el examen ha sido modificado, analizado y criticado, pero el LSAT sigue siendo parte del sistema de admisión a las universidades de Estados Unidos.

En aquella época, la inteligencia se convirtió en algo medible para crear jerarquías. Unos 50 años después se inventó el término inteligencia artificial, que trajo consigo todo ese bagaje sobre qué es la inteligencia y cómo se mide. Y es por eso que las medidas de los puntos de referencia de la IA siempre han sido tan peculiares y tan estrechamente relacionadas con los pasatiempos de los hombres ricos, como el ajedrez, los juegos de mesa complejos, los concursos y, ahora, los videojuegos. Las habilidades consideradas más femeninas, como las interacciones sociales o el trabajo de cuidado, se consideraron completamente irrelevantes para lo que significa ser inteligente, artificial o humano.

La idea es que la IA se volverá más inteligente que los humanos. Para poder evaluar si ese es el caso, hay que medirlo. Y para ello se utilizan las medidas que históricamente han dicho que los hombres blancos son los más inteligentes. Por lo tanto, para crear una inteligencia artificial que sea más inteligente que un humano, lo que se mide es si la inteligencia artificial es más inteligente que un hombre blanco. Por lo tanto, la asociación de la inteligencia artificial con lo blanco se debe a la idea de que la blancura es el nivel máximo de inteligencia.