Los modelos de IA son el final distópico de Instagram
A primera vista, podrías pensar que es real. Su estética callejera, su cara de veinteañera y sus millones de seguidores indican influencia y belleza. Podrías adivinar que es una YouTuber o una modelo o cantante. Y técnicamente, no estarías equivocado. La influyente Lil Miquela es todas esas cosas. Pero la real no es una de ellas.
Lil Miquela es la cara más prominente de una inquietante y seductora tendencia tecnológica: Los modelos de IA. El modelo de Instagram / influyente / cantante / personalidad general de Internet es en realidad una imagen generada por ordenador diseñada por una empresa de inteligencia artificial en LA. "Ella" (y dudo en llamarla "ella") es un fascinante microcosmos de lo que sucede cuando el mundo cambia completamente en línea. Miquela se junta con influyentes "reales", modelos de casas de moda, publicaciones sobre eventos actuales. Incluso agradeció a Collina Strada por "traerla" al Carnaval 2020 en Brasil. Lo que antes eran viajes patrocinados ahora son empresas que pagan a los diseñadores de la IA para crear un CGI de una persona influyente de la IA en un lugar en particular, y en la era de Internet, ¿hay realmente una diferencia entre que Lil Miquela publique una foto suya en Brasil y que tú publiques una foto tuya en Brasil?
La película que inició el género distópico
¿Es este personaje de "Beau tiene miedo" un Joaquin Phoenix envejecido? Por qué la IA hace que algunos espectadores se pregunten qué actores de cine son reales
Miquela puede ser la más popular de estas influenciadoras virtuales, pero ciertamente no es la única. El modelo de IA Shudu Gram fue el primer influenciador de IA diseñado para parecer negro, y aunque esto puede parecer una tendencia positiva, en realidad es un reflejo de cómo la idea de representación ha sido cooptada por estos sofisticados algoritmos para mantener a los usuarios adictos a la alimentación. Shudu es, según su creador masculino blanco, modelado según una princesa sudafricana, Barbie, lo que la convierte en una fantasía limitada por los estándares de belleza eurocéntricos. Los hombres blancos que diseñan "bellezas étnicas" para su propio beneficio no es una innovación tecnológica genial, es simplemente espeluznante.
El problema de los modelos de IA no es sólo que engañan visualmente a los seguidores, sino que la ética de su creación e implementación es a menudo inestable. Miquela y Shudu no pueden hacer nada malo porque no son reales. Son los programadores que están detrás de su perfil los que están capitalizando aspectos muy poco digitales de la vida, como la raza y el género, para pregonar una fantasía de Silicon Valley de un futuro digital. Sólo porque la ambigüedad étnica es estéticamente popular ahora mismo (y por lo tanto rentable) no significa que deba ser usada para acumular influencia. De esa manera, Lil Miquela es sólo el resultado final del algoritmo de Instagram, un producto cohesivo de lo que es la imagen más rentable de Instagram en este momento.
Con eso en mente, los avatares como Lil Miquela no deben ser retratados como si experimentaran la personalidad. Los creadores de Lil Miquela fueron atacados por publicar un blog sobre su asalto sexual precisamente porque hay pocas cosas más allá de lo virtual que el asalto sexual. La agresión es una experiencia extremadamente encarnada, y usar eso para "humanizar" a Miquela estaba más que equivocado. La agresión sexual también interactúa con el género, la sexualidad y la raza, ninguna de las cuales un avatar, una sofisticada línea de código, es capaz de experimentar. No hay nada intrínsecamente malo en los modelos de IA, pero la línea debe ser más clara en lo que constituye la personalidad.
Incluso mientras continuamos criticando este fenómeno, los modelos de IA no van a ninguna parte. En todo caso, son el futuro de los medios sociales. Cuando publicamos una foto en Instagram, somos un avatar para nuestros seguidores. Esto es obviamente a una escala mucho más pequeña, pero Instagram ha destruido absolutamente cualquier frontera entre lo virtual y lo real, así que sólo tiene sentido que los influenciadores hayan trascendido lo real. Si alguien me dijera que, digamos, Bella Hadid no es real, me sorprendería, aunque no hay nada en ella que me indique que es real, es sólo una verdad cultural general que he aceptado. El que una persona influyente sea real o no, no es más que un efecto placebo en este momento.
Todas las personas influyentes son esencialmente generadas por computadora. Para el usuario, las chicas de Instagram It-girls no son personas, sino un flujo de imágenes curadas que se adaptan a una preferencia estética particular. Al igual que Lil Miquela, los influenciadores "reales" son simplemente máquinas de creación de contenido. La única distinción entre los influenciadores de la IA y los influenciadores humanos es que elegimos creer que estos últimos son más reales. Pero para la gran mayoría de los usuarios, Bella Hadid y Emma Chamberlain no son más "reales" que Lil Miquela. La pregunta es, ¿lo somos?
