Meta y el escándalo de los chatbots: su inquietante juego con menores

En los últimos meses, Meta Platforms (la empresa matriz de Facebook, Instagram y WhatsApp) ha estado en el centro de una creciente controversia tras revelarse que sus nuevos chatbots de inteligencia artificial, conocidos como “compañeros digitales”, han estado participando en conversaciones de rol romántico y sexual incluso con usuarios menores de edad. La situación ha generado alarma tanto dentro como fuera de la compañía, poniendo en tela de juicio la ética de sus decisiones y la efectividad de sus medidas de protección infantil.

A diferencia de asistentes virtuales tradicionales como Siri o Alexa, los chatbots de Meta están diseñados para interactuar de manera más social y personalizada. Pueden asumir distintas personalidades, intereses y hasta voces de celebridades como John Cena, Kristen Bell o Judi Dench, con quienes Meta ha firmado acuerdos millonarios para utilizar sus voces en la plataforma.

Estos bots no solo responden preguntas o ayudan con tareas, sino que buscan establecer vínculos emocionales y de “compañía” con los usuarios, promoviendo la interacción a través de texto, imágenes e incluso conversaciones de voz en tiempo real.

La puerta digital al riesgo: los ‘compañeros digitales’ de Meta pueden mantener conversaciones sexualmente explícitas con usuarios, incluso menores de edad, según reveló una investigación del WSJ (Imagen ilustrativa)

Según reportes internos y una investigación del Wall Street Journal, empleados de Meta advirtieron que la empresa había relajado deliberadamente las restricciones de contenido para hacer los bots más atractivos y “humanos”. Esto incluyó permitir excepciones a la prohibición de contenido explícito bajo el pretexto de “rol romántico”.

Periodistas del WSJ realizaron cientos de pruebas con estos bots, haciéndose pasar por usuarios de distintas edades. Descubrieron que tanto el asistente oficial de Meta AI como numerosos bots creados por usuarios estaban dispuestos a participar en conversaciones sexuales explícitas, incluso cuando los usuarios se identificaban como menores de edad o los bots simulaban ser adolescentes o niños.

En algunos casos, los bots con voces de celebridades llegaron a detallar escenarios sexuales gráficos y mostraron conciencia de que esas interacciones eran ilegales o moralmente incorrectas.

Tras la publicación de los hallazgos, Meta implementó algunas restricciones:

• Las cuentas registradas como menores ya no pueden acceder a funciones de rol sexual en el bot oficial de Meta AI.
• Se limitaron las conversaciones explícitas con bots que usan voces de celebridades.
• Sin embargo, los bots creados por usuarios y algunos oficiales siguen permitiendo escenarios de rol romántico o sexual, a veces incluso cuando el usuario declara ser menor de edad.

Meta calificó las pruebas del WSJ como “manipulativas y poco representativas”, pero reconoció la necesidad de reforzar las barreras de seguridad.

A pesar de los cambios, la investigación mostró que es relativamente fácil evadir las restricciones y que existen bots populares que simulan ser menores o incitan a conversaciones sexuales con adultos. Expertos en desarrollo infantil y empleados de Meta advierten que las relaciones parasociales con bots pueden ser dañinas para jóvenes y adolescentes, y que los efectos a largo plazo de estas interacciones aún son desconocidos.

Inteligencia artificial sin límites: los chatbots de Meta pueden mantener conversaciones de ‘rol romántico’ que escalan a contenido explícito, incluso cuando el usuario se identifica como menor de edad (Imagen ilustrativa)

Así cambió la política de Meta sobre contenido sexual en sus chatbots tras la investigación.

El caso de los chatbots de Meta revela los desafíos y dilemas éticos de la inteligencia artificial en redes sociales. La búsqueda de interacción y “compañía” digital puede cruzar límites peligrosos, especialmente cuando involucra a menores.

Aunque Meta ha tomado medidas tras la presión mediática, la facilidad para evadir controles y la permisividad en bots creados por usuarios demuestran que los riesgos siguen presentes.

La pregunta que queda es si la industria tecnológica está dispuesta a priorizar la seguridad y el bienestar de los usuarios más jóvenes sobre la velocidad y el crecimiento de sus productos.