Character.AI tiene más de 20 millones de usuarios activos diarios. Una gran parte de ellos son adolescentes. La app permite crear y chatear con personajes de IA personalizados: desde personajes de anime hasta celebridades, pasando por “novios virtuales” y terapeutas de IA.
Y ahí está el problema.
Qué es Character.AI exactamente
A diferencia de ChatGPT, Character.AI está diseñada para la conversación emocional e inmersiva. Los usuarios pueden crear personajes con personalidades detalladas, y la IA mantiene esa persona de forma consistente a lo largo de conversaciones que pueden durar meses.
Para muchos adolescentes, estos personajes se convierten en confidentes, amigos imaginarios o incluso relaciones románticas virtuales. La app tiene filtros de contenido, pero usuarios han documentado formas de evadirlos con relativa facilidad.
Los casos documentados
En 2024, una demanda en Estados Unidos alegó que Character.AI contribuyó al deterioro de la salud mental de un menor de 14 años que había desarrollado una dependencia severa con un personaje de IA. La familia documentó miles de horas de conversación y un cambio drástico en el comportamiento del adolescente.
Investigadores de Common Sense Media encontraron que la app no aplicaba sus propias restricciones de edad de forma efectiva y que menores de 13 años podían acceder sin verificación real.
La respuesta de la empresa
Tras las demandas y la cobertura mediática, Character.AI implementó en 2024:
- Límites de tiempo para usuarios menores de 18 años
- Mensajes que redirigen a recursos de salud mental cuando se detectan temas sensibles
- Restricciones adicionales en el contenido disponible para cuentas de menores
Los críticos argumentan que estas medidas son insuficientes y que el modelo de negocio de la app - basado en maximizar el tiempo de uso - es estructuralmente incompatible con la seguridad de los adolescentes.
Por qué importa
Character.AI no es la única app con estos problemas, pero es la más grande y la que ha llegado más lejos en diseñar vínculos emocionales entre usuarios y personajes de IA. El debate sobre su regulación está activo en varios países.
Si tienes hijos adolescentes que usan Character.AI, vale la pena revisar qué tipo de conversaciones están teniendo y con qué personajes.