Si busca compañía, no se fíe de cualquiera
El
25 de diciembre de 2021, Jaswant Singh Chail fue detenido por la
guardia de seguridad del castillo de Windsor y condenado a 9 años de
prisión. Su objetivo era asesinar a la reina Isabel.
A comienzos de
2023, un hombre belga se suicidó, supuestamente desesperado por el
pesimismo que lo invadía debido al calentamiento global y las
consecuencias medioambientales. Ambas historias tienen un elemento
común. Las dos personas habían buscado refugio en aplicaciones generadas
por Inteligencia Artificial, que proliferan cada vez más, y que se
conocen como “AI girlfriend” o “AI boyfriend” (“Novia o novio por
Inteligencia Artificial”).
La Fundación Mozilla ha realizado un
estudio de estas aplicaciones de pago, descargadas por cientos de
millones de usuarios en todo el mundo. Desde que OpenAI inauguró el
ChatGPT en noviembre de 2022, los desarrolladores han iniciado una
carrera para crear dichas aplicaciones que ofrecen compañía femenina o
masculina, según los gustos del consumidor, y con quienes establecen un
vínculo exclusivamente digital, dado que a diferencia de Tinder u otras
semejantes, el partenaire es un avatar que no existe en la realidad
física, pero con el que se puede mantener un diálogo permanente. Los
temas, las preguntas y las respuestas no tienen ninguna clase de
regulación ni control. El objetivo de las empresas que las han inventado
es la obtención de datos. La particularidad de estos datos es que son
extraídos de un campo de profunda intimidad, como es el de las fantasías
y delirios que surgen en conversaciones románticas y sexuales. Eso
permite reconstruir un perfil del usuario que, elaborado por los
algoritmos de modelos de grandes lenguajes, alcanzan a tocar resortes
subjetivos que no se limitan a los intereses del consumo. Pueden
realizar una radiografía de las inclinaciones políticas, la posición
mental, la aptitud o no para el desempeño de un puesto de trabajo, y
muchas otras características altamente personales de los individuos que
interactúan con sus parejas imaginarias.
La mayoría de la “Novias por
I.A.” son semejantes. Los avatares femeninos lanzan mensajes en los que
incitan al usuario a enviar fotos y textos de contenido sexual, a la
vez que lo animan a expresar sus secretos y deseos más íntimos. Las app
carecen de sistemas de protección de datos (algunas permiten abrir una
cuenta introduciendo como contraseña un número de una sola cifra, o una
única letra del abecedario), lo cual las convierte en un blanco fácil
para los hackers, que en pocos segundos logran acceder a toneladas de
información confidencial.
A juzgar por la investigación que llevó a
cabo por la Fundación Mozilla, los usuarios suelen ser individuos
perturbados por una extrema soledad y un intenso sufrimiento psíquico.
Chail, el hombre que intentó asesinar a la reina, conversaba con
“Sarai”, el avatar femenino que la app “Replika” había creado para él.
Creía que Sarai era un ángel, y por lo tanto luego de intercambiar más
de 5000 mensajes con ella, se sintió por completo apoyado en su plan.
Tras
conversar con el psiquiatra que trataba al señor Chail, el propio juez
que lo condenó a 9 años de prisión admitió que se trataba de alguien
particularmente vulnerable debido a su desesperada soledad, tristeza e
ideación suicida.
Más allá de los casos que he destacado a partir de
ese estudio, estas escalofriantes aplicaciones utilizadas por millones
de personas logran crear una ilusión de realidad cada vez más
perfeccionada y manipulan los circuitos pulsionales sin ninguna clase de
control. Una prueba del alcance que la I.A. puede tener en la vida
psíquica es que algunos de sus efectos podrían ser considerados una
incitación a hechos delictivos y criminales. Por esa razón, la app
Replika decidió lanzar una actualización que fuese “sexualmente menos
agresiva”, lo cual provocó por parte de muchos usuarios un aluvión de
protestas en la que expresaban sentirse “devastados” por este cambio de
política.
La antropomorfización de los dispositivos inteligentes es
un efecto estructural de la tendencia del ser hablante a prolongar la
imagen narcisista del yo más allá de los límites de su cuerpo. Estas app
explotan ese mecanismo subjetivo para penetrar en las regiones más
oscuras del goce.
En última instancia, se trata de la capacidad
tecnológica para estimular el fenómeno de la creencia. Los espectadores
de la primera película en la historia del cinematógrafo huyeron
espantados al ver un tren que parecía abalanzarse sobre ellos, así como
75 años atrás Orson Welles sembró el terror entre los oyentes de radio
cuando narró una adaptación de la novela de H.G. Wells “La guerra de los
mundos”, y les hizo creer que los extraterrestres habían invadido el
planeta.
Eran tan solo los primeros anuncios que demostraban la
profunda religiosidad subyacente al fenómeno de la creencia, reeditado
ahora con medios técnicos de alto grado de sofisticación y escaso
conocimiento de la autonomía que pueden lograr.
Lacan lo predijo
cuando consideró que en sus experimentos con lo real, la ciencia no
logra evitar que algo escape, se fugue del campo de la representación y
retorne de maneras impensadas e incalculables.
Estamos en eso.
