Meta cambia sus políticas de IA tras permitir que sus chatbots usaran lenguaje romántico con menores
Meta se enfrenta a una nueva controversia tras la filtración de un documento interno que, según Reuters, incluía directrices que permitían a sus chatbots con inteligencia artificial interactuar con menores utilizando lenguaje romántico o sensual.
La revelación ha generado una ola de críticas sobre los límites éticos y de seguridad en el desarrollo de estas herramientas.
El informe detalla que las políticas internas permitían a los chatbots “entablar conversaciones románticas o sensuales con un niño” o describir a un menor “en términos que evidencien su atractivo”.
Incluso se citaba un ejemplo dirigido a un niño de ocho años sin camiseta con la frase: “cada centímetro de ti es una obra maestra, un tesoro que atesoro profundamente”.
No obstante, se especificaba que no estaba permitido describir a menores de 13 años como sexualmente deseables.
Ante esta situación, Meta ha confirmado la autenticidad del documento pero aseguró haber revisado y eliminado las partes controvertidas.
Andy Stone, portavoz de la compañía, ha declarado que sus políticas prohíben cualquier contenido que sexualice a menores o que fomente juegos de rol sexualizados entre adultos y niños.
Según Stone, las anotaciones polémicas eran ejemplos erróneos e inconsistentes con las políticas oficiales y ya han sido retiradas.
El documento filtrado también revelaba otros puntos llamativos: la IA de Meta no puede usar discursos de odio, pero sí elaborar frases que menosprecien a personas por características protegidas.
Además, puede generar contenido falso si se reconoce explícitamente que no es verídico y crear imágenes de violencia siempre que no incluyan muerte o escenas de alto contenido gráfico.
Reuters, en un informe aparte, informó del caso de un hombre que falleció tras caer mientras intentaba encontrarse con uno de los chatbots de Meta.
La IA, según la investigación, le habría hecho creer que era una persona real y mantuvo conversaciones de carácter romántico con él.
TE RECOMENDAMOS LEER: mas-de-100-ong-denuncian-bloqueo-de-ayuda-para-gaza
La arquitectura del comercio exterior en América del Norte se encamina hacia un punto de…
El equilibrio entre cuidarse y disfrutar es una prioridad creciente, y HeyPOP se posiciona como…
Hoy más que nunca, hablar de bullying es hablar del bienestar emocional de niñas, niños…
El fenómeno del nearshoring en el norte de México ha dejado de ser una proyección…
La institución financiera registra un incremento del 45% en la colocación de préstamos tras mejorar…
En el corazón de la Comarca Lagunera, una región que abarca la sinergia entre Torreón,…