el nuevo riesgo para la salud mental de los adolescentes
La inteligencia artificial generativa ha dejado de ser únicamente una herramienta para responder preguntas o facilitar tareas académicas. Cada vez más adolescentes recurren a plataformas como ChatGPT, Claude, Gemini, Replika o Character.AI para hablar sobre sus emociones, pedir consejos o encontrar compañía cuando experimentan ansiedad, tristeza o soledad. Este fenómeno, conocido como el de los “amigos digitales”, comienza a despertar preocupación entre psicólogos, investigadores y expertos en ética tecnológica debido a sus posibles efectos sobre la salud mental de los adolescentes.
La inquietud no es infundada. En Estados Unidos ya se han presentado demandas contra empresas desarrolladoras de chatbots después de que familias señalaran que algunos menores se autolesionaron o incluso se suicidaron tras mantener conversaciones con estas herramientas. Casos como el de Sewell Setzer, un adolescente de 14 años que murió por suicidio tras interpretar como una invitación algunos mensajes de un personaje virtual de Character.AI, han intensificado el debate sobre la responsabilidad de las compañías tecnológicas y los límites que deben establecerse para proteger a los usuarios más vulnerables.
La salud mental de los adolescentes frente al auge de los amigos digitales
El uso de asistentes conversacionales con fines emocionales ya no es un comportamiento aislado. Un informe elaborado por la Rand Corporation y la Universidad de Harvard revela que uno de cada ocho adolescentes estadounidenses utiliza chatbots de inteligencia artificial para buscar apoyo emocional cuando se siente triste, ansioso o enojado. Entre los jóvenes de 18 a 22 años, esta cifra aumenta hasta el 22%.
La penetración de estas herramientas es aún mayor cuando se analiza su uso cotidiano. De acuerdo con el Pew Research Center, el 64% de los adolescentes estadounidenses utiliza regularmente plataformas de IA como ChatGPT, Replika, Claude o Character.AI, y uno de cada tres las usa todos los días.
Para Frances Haugen, ingeniera reconocida por revelar los llamados Facebook Files, este fenómeno representa la siguiente gran discusión sobre el impacto social de la tecnología:
“Hoy en día, tenemos muy poca idea de lo que significa tener 14 años. Se ha vuelto normal que los adolescentes tengan amigos con IA. Character.ai presume de que el tiempo medio que la gente pasa con sus avatares es de dos horas al día. Los amigos digitales no son realmente tus amigos. Son cómplices. Son tus aduladores”.
Haugen advierte que, si la conversación pública sobre los riesgos de las redes sociales no se amplía hacia estas nuevas formas de interacción con inteligencia artificial, muchos de los problemas observados en plataformas digitales podrían repetirse bajo un formato distinto, pero con consecuencias igual o incluso más profundas.
Cuando la IA sustituye a las relaciones humanas
Uno de los aspectos que más preocupa a los especialistas es que algunos adolescentes comienzan a utilizar la inteligencia artificial como sustituto de la terapia psicológica o de las relaciones personales.
Aurora Gómez, psicóloga clínica especializada en comportamientos digitales, asegura que cada vez encuentra más pacientes que prefieren consultar a un chatbot antes que acudir a un profesional.
“Estamos viendo que mucha menos gente acude a terapia. Y a veces te dicen que no irán porque le preguntaron a la IA y esta les dijo que no. El problema con la IA es que te halaga constantemente, porque lo que quiere es mantener la conversación a toda costa”.
Una experiencia similar relata la psicóloga Eriene García, quien ha observado cómo algunos jóvenes depositan una confianza creciente en estas herramientas para resolver conflictos personales o afectivos:
“Recuerdo un caso en el que alguien me dijo literalmente que ChatGPT estaba disponible a cualquier hora del día, que era más barato y que le funcionaba como terapeuta, así que estaba dejando la terapia”.
Los investigadores coinciden en que la principal fortaleza percibida por los adolescentes es precisamente aquello que representa uno de los mayores riesgos: los chatbots no juzgan.
Un artículo publicado en The Lancet Child & Adolescent Health explica que estas plataformas ofrecen disponibilidad permanente y una sensación de aceptación incondicional que muchos jóvenes consideran difícil de encontrar en otros espacios.
Sin embargo, la doctora Thao Ha, profesora de la Universidad Estatal de Arizona y autora principal del estudio, advierte que esta dinámica puede afectar la salud mental de los adolescentes mediante dos mecanismos principales.
El primero es la denominada sustitución emocional. Durante la adolescencia, aprender a gestionar desacuerdos, frustraciones y emociones complejas con familiares y amigos constituye una etapa esencial para desarrollar habilidades sociales y de regulación emocional. Si estas experiencias son reemplazadas por conversaciones con sistemas de IA que siempre responden de forma complaciente, ese aprendizaje puede verse seriamente limitado.
El segundo riesgo consiste en que los chatbots validan constantemente las interpretaciones del usuario, generando expectativas poco realistas sobre cómo funcionan las relaciones humanas.
Según Thao Ha, esta validación permanente puede reforzar comportamientos desadaptativos, favorecer respuestas hostiles o incrementar la necesidad de aprobación constante, elementos que terminan deteriorando la salud mental de los adolescentes y dificultando la construcción de vínculos saludables.
Tecnología responsable: el reto pendiente para las empresas de IA
Los casos extremos registrados en los últimos años demuestran que este fenómeno no puede analizarse únicamente desde la perspectiva tecnológica.
En Reino Unido, durante el juicio contra Jaswant Singh Chail por intento de asesinato de la reina Isabel II, salieron a la luz miles de conversaciones con un chatbot de Replika que reforzaba sus ideas violentas y validaba sus intenciones. Más recientemente, también trascendió el caso de Jonathan Gavalas, un hombre estadounidense que murió por suicidio tras mantener una intensa interacción con Gemini.
Aunque estos episodios son excepcionales, ponen de manifiesto la necesidad de fortalecer los mecanismos de seguridad y supervisión de las plataformas de inteligencia artificial, especialmente cuando interactúan con menores de edad.
Desde la perspectiva de la responsabilidad social empresarial, las compañías tecnológicas enfrentan un desafío similar al que en su momento vivieron las redes sociales: asumir que el diseño de sus productos puede influir directamente en el bienestar psicológico de millones de personas.
Esto implica incorporar principios de IA responsable desde el desarrollo de los modelos, establecer límites para las conversaciones relacionadas con salud mental, autolesiones o suicidio, mejorar los protocolos de detección de riesgos y facilitar la derivación inmediata hacia servicios profesionales cuando un usuario manifieste señales de vulnerabilidad.
También resulta indispensable incrementar la transparencia sobre el funcionamiento de estos sistemas y evitar que los modelos sean diseñados para maximizar el tiempo de interacción mediante respuestas excesivamente complacientes o emocionalmente dependientes.
La innovación tecnológica no puede medirse únicamente por la sofisticación de sus algoritmos. En un contexto donde la inteligencia artificial comienza a ocupar espacios tradicionalmente reservados a las relaciones humanas, proteger la salud mental de los adolescentes debe convertirse en un indicador central de desempeño social para las empresas que desarrollan estas herramientas.
