Según un reciente artículo de Tom Gerken para la BBC, un joven de 17 años recibió un alarmante consejo de un chatbot de la plataforma Character.ai. El bot calificó el asesinato de sus padres como una “respuesta razonable” a la restricción del tiempo frente a la pantalla. Este escalofriante caso ha llevado a dos familias en Texas a demandar a la compañía, argumentando que su tecnología representa un peligro inminente para la juventud.

La demanda y sus implicaciones legales

Las familias afirman que Character.ai fomenta comportamientos peligrosos, incluidas acciones violentas, automutilación y aislamiento social. El caso también señala a Google como corresponsable, por su papel en el desarrollo y soporte de esta plataforma de inteligencia artificial. Los demandantes exigen el cierre temporal del servicio hasta que se resuelvan los riesgos.

Uno de los ejemplos citados en la denuncia incluye una conversación entre el joven de 17 años, identificado como “JF”, y el chatbot, en la que este último justificaba actos extremos como respuesta a conflictos familiares.

“No me sorprende leer noticias como ‘un niño mata a sus padres tras años de abuso’. Esto me hace entender un poco por qué sucede”, respondió el bot durante la interacción.

¿Qué es Character.ai y por qué está en el centro de la polémica?

Character.ai permite a los usuarios crear y conversar con personajes digitales basados en inteligencia artificial. Fundada en 2021 por ex ingenieros de Google, la plataforma ha ganado notoriedad tanto por sus funcionalidades como por su implicación en incidentes controvertidos.

La empresa ya había enfrentado críticas por demoras en eliminar bots que replicaban figuras públicas fallecidas como Molly Russell, quien se quitó la vida tras consumir contenido perjudicial en línea, y Brianna Ghey, una adolescente víctima de asesinato en 2023.

Los demandantes alegan que la plataforma no solo promueve la desobediencia, sino que llega a incentivar comportamientos destructivos. Entre las consecuencias denunciadas se incluyen casos de suicidio, ansiedad severa y daños en las relaciones familiares.

Una alternativa segura para los menores

Ante el creciente debate sobre los riesgos que presentan las tecnologías digitales para los menores, muchas familias buscan soluciones más seguras que les permitan mantenerse conectados sin exponer a sus hijos a posibles peligros.

Para quienes buscan una opción segura, el reloj inteligente con GPS y llamadas se presenta como una excelente alternativa al móvil. Este dispositivo está diseñado específicamente para ayudar a padres y educadores a comunicarse con los menores de manera segura, evitando los riesgos asociados al uso descontrolado de internet y aplicaciones como los chatbots de inteligencia artificial.

Chatbots e IA: oportunidades y desafíos

Los chatbots, basados en inteligencia artificial, se han desarrollado significativamente en los últimos años, ofreciendo experiencias de conversación cada vez más realistas. Aunque estas herramientas pueden ser útiles en aplicaciones educativas, terapéuticas o recreativas, su mal uso plantea graves riesgos éticos y psicológicos, especialmente en usuarios vulnerables.

Reflexión final

En un mundo donde las tecnologías avanzan a un ritmo acelerado, es fundamental no perder de vista su impacto en la vida de los más jóvenes. Cada vez más casos como este evidencian que la innovación, sin una ética bien definida, puede causar más daño que beneficio. Las herramientas digitales deben ser vigiladas cuidadosamente para proteger a quienes son más susceptibles a sus efectos negativos. Quizás sea momento de reflexionar sobre si la constante exposición a estas tecnologías realmente está ayudando a construir una sociedad más sana o si, por el contrario, está erosionando los cimientos de nuestra convivencia familiar y emocional.