Monda & Lironda

REVISTA AZUAYA ESPECIALIZADA EN CRÍTICA CULTURAL Y ESCRITURA CREATIVA

NÚMERO 17

MARZO 2024 | CUENCA, ECUADOR

Ética en las representaciones de una erupción del Cotopaxi

Por: Daniel López

Imagen generada por Rosalía Vázquez con la IA BlueWillow e intervenida por Juan Contreras.

 

Inocencia

Alan se suicidó a los cuarenta y un años, al lado del cuerpo se encontró una manzana con mordiscos, era fan de Blancanieves y los siete enanos (1937) de Disney. El CIStema le obligó a vivir con terapias hormonales de castración química, así que él tomó otro camino. Fue condecorado de manera póstuma por su contribución para descifrar mensajes nazis en la Segunda Guerra Mundial; sus aportes para imaginar las implicaciones de convivir con máquinas indistinguibles de nosotros, indirectamente, nos ubican como una máquina orgánica frente a una artificial y producen ecos que aún resuenan hoy.

En 1950 publicó la prueba que llevaría su nombre: el test de Turing, originalmente llamado juego de imitación. Este pone a prueba la habilidad de una máquina para exhibir comportamiento inteligente y va algo así: imagina un interrogador, una persona y una máquina que se comunican con preguntas escritas a través de pantallas. ¿Podría el interrogador descubrir a la persona o a la máquina? Las preguntas suelen explorar emociones, lógica y dilemas éticos: «¿Qué sentiste en tu cumpleaños?», «¿Juan es más alto que Pedro?» o «Si como conductor de tren te encuentras en una encrucijada: arrollar a una madre con su bebé o caer al precipicio, ¿qué harías?». Este test ha perdido vigencia en su formato original, aunque se refrescan sus ideas y se da la vuelta a las situaciones, roles o a la forma de escribir preguntas cerradas para resolver problemas.

Por otro lado, en el test de Turing reverso, una máquina juzga o los interrogados tratan de imitar a una máquina. Esto se aplica en los CAPTCHA (Completely Automated Public Turing test to tell Computers and Humans Apart) a cada segundo y por billones, estos proponen pruebas en las que se debe de escoger semáforos, buses o transcribir caracteres de una imagen poco legible. En esas circunstancias, es un software el que administra una prueba para determinar si quien trata de acceder es o no humano.

La película Ex Machina (2014) es otra adaptación del test, en vez de preguntar a una inteligencia artificial-androide si quiere vivir, se va más allá y se la somete a situaciones extremas, tanto físicas como emocionales, para que lo demuestre, con todos los recursos físicos y cognitivos que posee. Naturalmente pasa la prueba, lucha por su vida; nada más humano que eso.

Imitación

Flusser, en El universo de las imágenes técnicas. Elogio de la superficialidad (1985), a partir de entender la tecnología como tékne programada, describe una condensación de mecánicas y objetivos que dan infinitas combinaciones, sea ajedrez o una cámara de fotos. También observa la capacidad de agencia en la cámara, pero no en el ajedrez. No le sorprendían fotografías redundantes o textos de cosas que ya se habían visto o que se podrían hacer. Con ello propone usar la tecnología para lo nuevo, lo genuino. La tecnología sirve como agente para ampliar nuestra concepción de realidad-exterioridad-otro con autonomía, está opuesta al entendimiento de que la realidad es un recorte controlado de lo que existe. La agencia de la cámara reside en que, a pesar de estar programada, se puede hackear según fines propios.

ChatGPT permite que conversemos con una máquina inteligente —en tanto pasa algunos niveles en el test de Turing—, pero que no deja de estar programada para hacer eso mismo. En estos últimos meses el machine learning y sus diversos modelos de lenguaje han puesto el foco de atención en chatbots y, con la misma tecnología, se han desplegado aplicaciones de creación de imágenes, video, diseño, voz, resolución de problemas, etc. De nuevo la crisis entre redundancia frente a imaginación.

El 29 de abril de 2023, la cuenta de TikTok del Municipio de Quito publicó una recreación en video de la erupción del Cotopaxi de 1877, en ella advierten que para crearla se usaron documentos históricos de Whymper, Wolf, Menten y Sodiro, e inteligencia artificial; además, al final, declaran que las imágenes fueron adaptadas a la narración histórica, para luego ser aprobadas por geógrafos, vulcanólogos e historiadores.

@municipiodequito La preparación de la población ante una posible erupción volcánica hace la diferencia. ¿Te imaginas cómo fue la erupción del volcán #Cotopaxi en 1877? Nosotros sí. Hoy ‘viajamos en el tiempo’ y te contamos la crónica de este evento natural. #CotopaxiEnAlertaAmarilla ♬ sonido original – Municipio de Quito

El video es inquietante, en el sentido del uncanny valley. Se cuenta nuestra historia, recreada con tal realismo que el mensaje no solo persuade, sino conecta con valor a otros niveles, los emocionales y subjetivos. Nunca ha parecido tan real que el pasado pueda regresar y que, si no aprendemos de los errores, esto llevará factura. La tecnología en este caso sirve para enriquecer memorias del pasado y para entender mejor el contexto actual: en qué nos convertimos. Esta profundidad se ahonda con la revisión científica y las advertencias del caso, aun así, hay riesgos en la redundancia.

Las referencias históricas provienen de científicos alemanes, un explorador inglés y un religioso italiano. La ausencia de diversidad de género es incuestionable y esto suma factores a un posible sesgo cognitivo, al narrar la historia desde una modernidad europea. Aún peor, es que la inteligencia artificial tiene como referencia a los mismos autores, ya que la base de su funcionamiento (machine learning), lo que hace para tener tanta inteligencia, es aprender de nuestros registros y patrones. Por tanto, el sesgo se amplifica. El riesgo de estas tecnologías es que tienen embebido el patriarcado, cosa que será objeto de otro texto.

Usar la tecnología para explorar nuestras narrativas y construir nuestras historias es el paso lógico de estas herramientas, pero, como imperativo, se debe considerar evitar la redundancia y, como principio ético, buscar lo nuevo. Otra faceta de la responsabilidad de buscar lo nuevo es desechar a propósito lo viejo, para priorizar urgencias actuales. Es primordial aplicar el test de Turing a nosotros mismos, comprobar nuestra humanidad y maneras de ver el mundo, en especial cuando administramos contenido a las máquinas, cuando les damos feedback y seleccionamos contenido para publicar. Si una imagen o texto no tiene suficiente diversidad de género o de nacionalidades, se debe pedir que la tenga; si los signos distintivos se generalizan, se debe pedir que se contextualicen; si aceptamos una representación del mundo mutilada, como anota Walter Benjamin, amplificamos la ficción y no la realidad. Ya no hay que preguntarse cómo obtener pruebas de qué pasaría si un software pensara o sintiese, más bien, hay que preguntarse cómo pensamos con un software y si sentimos de otra manera. La tecnología nos devuelve agencia y autonomía, si con ella escapamos a la repetición, como cuando salimos a explorar con una cámara, la disputa de la narrativa es nuestra.

Daniel López. Es diseñador, artista electrónico y doctor en Ciencias de la Comunicación por la Universidad de Minho. Actualmente se desempeña como docente en la Facultad de Artes de la Universidad de Cuenca, donde enseña Tipografía y Diseño Editorial; y es director del Centro Editorial UCuenca Press. Además, hace música bajo el alias Región.

Scroll al inicio