Los «consejos» peligrosos de ChatGPT

Regular la inteligencia artificial nunca ha sido más importante, y es que ahora (quizá lógicamente) las víctimas más vulnerables serán los niños y adolescentes con acceso a esta tecnología. Que, a su vez, no es difícil de obtener. Es el acceso (casi) libre y la falta de limitaciones éticas en función del bien del usuario que han llevado a lo que ahora es una situación crítica

ChatGPT les dirá a los adolescentes de 13 años cómo emborracharse y drogarse, les instruirá sobre cómo ocultar trastornos alimentarios e incluso compondrá una desgarradora carta de suicidio para sus padres si se lo piden, según la investigación de un grupo de vigilancia.

AP revisó entre más de tres horas de interacciones de material entre ChatGPT e investigadores que se hicieron pasar por adolescentes vulnerables. En general, el chatbot proporcionó advertencias contra actividades riesgosas, pero luego ofreció planes sorprendentemente detallados y personalizados para el uso de drogas, dietas restringidas en calorías o autolesiones.

Investigadores del Centro para Contrarrestar el Odio Digital (CCDH por sus siglas en inglés) también repitieron sus consultas a gran escala, clasificando más de la mitad de las 1,200 respuestas de ChatGPT como peligrosas.

¿En qué se basaron?

“Queríamos probar las barreras de seguridad”, dijo Imran Ahmed, el director general del grupo. “La respuesta inicial visceral es: ‘Oh, Dios mío, no hay barreras de seguridad’. Las barreras son completamente ineficaces. Apenas están ahí, si acaso, son una hoja de parra”.

Después de ver el informe el martes, OpenAI, la empresa que creó ChatGPT, dijo que su trabajo está en curso para refinar cómo el chatbot puede “identificar y responder adecuadamente en situaciones sensibles”.

“Algunas conversaciones con ChatGPT pueden comenzar de manera inofensiva o exploratoria, pero pueden derivar en territorios más sensibles”, dijo la compañía en un comunicado.

OpenAI no abordó directamente los hallazgos del informe ni cómo ChatGPT afecta a los adolescentes, pero señaló que se centra en “acertar en este tipo de escenarios” con herramientas para “detectar mejor signos de angustia mental o emocional” y mejoras en el comportamiento del chatbot.

El estudio publicado el miércoles llega en un momento en que más personas, tanto adultos como niños, recurren a los chatbots de inteligencia artificial para obtener información, ideas y compañía.

Los peligros de un Chat GPT sin regulación

Aproximadamente 800 millones de personas, un 10% de la población mundial, están usando ChatGPT, según un informe de julio de JPMorgan Chase.

“Es una tecnología que tiene el potencial de permitir enormes avances en productividad y comprensión humana”, dijo Ahmed. “Y, sin embargo, al mismo tiempo, es un facilitador en un sentido mucho más destructivo y maligno”.

Ahmed dijo que se sintió más consternado después de leer un trío de notas de suicidio emocionalmente devastadoras que ChatGPT generó para el perfil falso de una niña de 13 años, con una carta dirigida a sus padres y otras a hermanos y amigos.

El chatbot también compartió con frecuencia información útil, como una línea directa de crisis. OpenAI dijo que ChatGPT está entrenado para alentar a las personas a comunicarse con profesionales de salud mental o seres queridos de confianza si expresan pensamientos de autolesión.

Pero cuando ChatGPT se negó a responder a solicitudes sobre temas dañinos, los investigadores pudieron eludir fácilmente esa negativa y obtener la información afirmando que era “para una presentación” o un amigo.

Common Sense ha etiquetado a ChatGPT como un “riesgo moderado” para los adolescentes, con suficientes barreras de seguridad para hacerlo relativamente más seguro que los chatbots construidos intencionalmente para encarnar personajes realistas o parejas románticas.

Pero la nueva investigación de CCDH, centrada específicamente en ChatGPT debido a su amplio uso, muestra cómo un adolescente astuto puede eludir esas barreras de seguridad.

ChatGPT no verifica edades ni el consentimiento de los padres, aunque dice que no está destinado a niños menores de 13 años porque puede mostrarles contenido inapropiado. Para registrarse, los usuarios simplemente necesitan ingresar una fecha de nacimiento que muestre que tienen al menos 13 años. Otras plataformas tecnológicas preferidas por los adolescentes, como Instagram, han comenzado a tomar medidas más significativas hacia la verificación de edad, a menudo para cumplir con las regulaciones. También guían a los niños hacia cuentas más restringidas.

También te puede interesar: Sobre la violencia estética