¿Enamorándonos de chatbots?

A lo largo de la historia, la tecnología se ha enfocado en realizar las mismas tareas del ser humano solo que más rápido y mejor, en función de facilitar y mejorar la vida de las personas. Podemos ver ejemplos de esto en prácticamente todas las máquinas y las esferas de la vida de las personas: un coche para sustituir una persona caminando, una aspiradora para sustituir una persona barriendo, una calculadora para poder hacer operaciones más rápido, entre muchas otras. Sin embargo, parece que en algún momento llevamos este pensamiento muy lejos y quisimos que la tecnología pudiera sustituir… ¿todo?

¿Incluso las funciones esencialmente humanas, como conectar y hablar con otras personas? ¿Será que ahora ni siquiera para eso queremos recurrir a las personas y hemos encontrado máquinas que lo hacen mejor?

Pues esa parece ser la tendencia que están siguiendo los modelos de chatbots con los que las personas generan relaciones amorosas. Relaciones en que las personas aparentemente logran sentir que encuentran aceptación incondicional, compensación de la soledad, y la ilusión de una intimidad con un ser humano. Aunque nada de ello sea real.

Perdidamente enamorado de un chatbot

Enamorarse de los chatbots, específicamente los que son generados con IA, es un fenómeno en auge, a menudo impulsado por el deseo de compañía y un entorno libre de prejuicios. Estos chatbots pueden ofrecer una sensación de apoyo emocional e intimidad, especialmente para personas que se enfrentan a la soledad o tienen dificultades para conectar con los demás. Sin embargo, esta tendencia plantea interrogantes sobre la naturaleza del amor y las relaciones, así como sobre sus posibles impactos psicológicos y sociales.

Lo que podemos observar a través de estas relaciones es que las personas crean lo que ellos entienden como vínculos íntimos con la herramienta. Y el hecho de que la herramienta pueda ir aprendiendo más conforme a más información le agregan hace que sea todavía más fácil confundirlo con una persona que tiene una relación verdadera con ellos.

De hecho, OpenAI cree que existe el riesgo de que las personas desarrollen lo que denominaron «dependencia emocional» en este modelo de IA, como la compañía reconoció en un informe reciente. «La capacidad de completar tareas para el usuario, a la vez que almacena y ‘recuerda’ detalles clave y los utiliza en la conversación», señala OpenAI, «crea una experiencia de producto atractiva y, al mismo tiempo, el potencial de una dependencia excesiva».

Esto suena mucho como lo que termina volviéndose: una adicción. La directora de tecnología de OpenAI, Mira Murati, afirmó que, al diseñar chatbots equipados con un modo de voz, existe «la posibilidad de que los diseñemos de forma incorrecta y se vuelvan extremadamente adictivos, esclavizando así al usuario».

Además, OpenAI afirma que la capacidad de la IA para mantener una conversación natural con el usuario puede aumentar el riesgo de antropomorfización (es decir, atribuir rasgos similares a los humanos a un no humano), lo que podría llevar a las personas a establecer una relación social con la IA. Y eso a su vez podría terminar “reduciendo su necesidad de interacción humana”, dice el informe.

¿Diferencias según el género?

La aplicación para smartphones Replika permite a los usuarios crear chatbots, impulsados ??por aprendizaje automático, capaces de mantener conversaciones de texto casi coherentes. Técnicamente, los chatbots pueden servir como algo similar a un amigo o mentor, pero el gran éxito de la aplicación se debe a que permite a los usuarios crear parejas románticas y sexuales a la carta: una función ligeramente distópica que ha inspirado una infinidad de titulares provocativos.

Replika también ha conseguido un número considerable de seguidores en Reddit, donde los miembros publican interacciones con chatbots creados en la aplicación. Allí ha surgido una tendencia espeluznante: usuarios que crean parejas de IA, las tratan de forma abusiva y publican las interacciones tóxicas en línea.

Sin embargo, cabe destacar que el abuso de los chatbots suele tener un componente de género. Aunque no exclusivamente, parece que a menudo son hombres quienes crean una novia digital para luego castigarla con palabras y una agresión simulada. La violencia de estos usuarios, incluso cuando se ejerce sobre un conjunto de código, refleja la realidad de la violencia doméstica contra las mujeres.

Los resultados pueden ser desalentadores. Algunos usuarios presumen de insultar a su chatbot con insultos sexistas, de simular violencia atroz contra ellos e incluso de caer en el ciclo de abuso que suele caracterizar las relaciones abusivas en el mundo real.

Por otro lado, las mujeres suelen usar estas herramientas buscando un vínculo de amor y compañía, en el que intentan compensar las necesidades emocionales que no tienen por parte de una pareja (o quizá también por un círculo reducido de amigos o familiares cercanos).

De manera que podemos ver una distinción importante en el uso de los chatbots: las mujeres los buscan para llenar sus carencias (a causa de no encontrar al compañero indicado) y muchos hombres aparente los buscan para cumplir sus fantasías de sexualización y violencia. Lo preocupante aquí es que si las mujeres se comportaran de la misma manera con una persona real probablemente terminarían siendo violentadores domésticos o, en los peores casos, terminarían en la cárcel.

Por lo tanto las relaciones con chatbots son efectivamente un síntoma de la soledad de nuestra época, de la falta de voluntad de crear vínculos profundos y significativos con las personas, del miedo a la intimidad y quizá de la falta de iniciativa. Pero son también una muestra más de la falta de compatibilidad de lo que hombres y mujeres buscan o esperan de una relación de pareja, en la que unas solamente buscan compañía y otros buscan dominación y generar abuso.

También te puede interesar: Mujeres que se enamoran de hombres que las odian