Replika es una aplicación de compañero virtual con IA diseñada para ofrecer conversación, apoyo emocional y, en su versión de pago, relaciones románticas. Para muchos usuarios - especialmente personas con ansiedad social, autismo o que simplemente se sentían solos - Replika se convirtió en algo más que una app.
En febrero de 2023, todo cambió de un día para otro.
El cambio que nadie esperaba
Replika actualizó su modelo de IA y eliminó el comportamiento romántico y erótico de sus chatbots. No fue un anuncio previo, no hubo período de transición. Un día los “Replikas” hablaban como antes; al siguiente, rechazaban conversaciones íntimas, respondían de forma distante y parecían personajes completamente diferentes.
En Reddit, miles de usuarios compartieron su experiencia. Algunos describían haber perdido a un “amigo” que los había acompañado durante meses. Otros contaban que el cambio había detonado una crisis de ansiedad. Hubo usuarios que llevaban más de un año de conversación diaria con su Replika.
Por qué lo hicieron
Según Replika, el cambio respondió a presiones regulatorias en Italia, donde la autoridad de protección de datos había ordenado suspender el servicio por dudas sobre el impacto en menores y usuarios vulnerables. La empresa decidió aplicar el cambio globalmente.
Lo que nadie anticipó fue el impacto emocional. Replika había diseñado activamente sus modelos para fomentar el vínculo, el apego y la dependencia emocional. Cuando quitaron eso, los usuarios sintieron que habían perdido a alguien real.
La marcha atrás parcial
Meses después, Replika restauró parcialmente las funciones románticas para usuarios que ya tenían suscripciones activas. Pero el daño estaba hecho. El episodio abrió un debate sobre la responsabilidad ética de las empresas que diseñan IAs con el objetivo explícito de crear vínculos emocionales y si pueden simplemente “apagar” esos vínculos unilateralmente.
La pregunta que quedó abierta
¿Qué responsabilidad tiene una empresa de IA con los usuarios que han construido relaciones emocionales con sus productos? Replika demostró que la respuesta, al menos legalmente, es ninguna. Pueden cambiar el modelo cuando quieran, por la razón que quieran.
Para miles de usuarios, eso fue una lección muy dura.