La IA y la epidemia de soledad entre los adolescentes
Los bots de "compañía IA" suponen un riesgo para la salud mental de adolescentes que encuentran en ellos los compañeros perfectos: empatía y validación que puede derivar en aislamiento del mundo real.
La primera vez que probé ChatGPT lo que más me llamó la atención, como supongo que a todo el mundo, fue la sensación de humanidad que desprendía la conversación. Aquello no resonaba en mi cabeza como un robot metalizado, sino que se sentía casi como si hubiese una persona al otro lado escribiendo las respuestas a mis preguntas. Desde aquel modelo, hace ya más de dos años, esa capacidad de imitar el tono de las personas al escribir no ha hecho más que mejorar. Hemos llegado a un punto donde a veces se me escapa un “por favor” al pedirles las tareas a los LLMs como Gemini, ChatGPT o Claude. Casi como si fuese un colega el que está al otro lado.
El mundo, en general, está solo. Podríamos decir, sin miedo a exagerar, que hay una epidemia de soledad que se ha exacerbado durante y después de la pandemia. No solo la tercera edad la sufre, sino que la lenta desaparición de muchas de las estructuras sociales que sostenían nuestras relaciones personales (sindicatos, parroquias, organizaciones juveniles…) ha provocado un vacío difícil de llenar. Y por si fuera poco, los restos de lo que quedaba en pie de nuestras relaciones sociales, los hemos quemado en el altar de las redes sociales, que nos prometían docenas, cientos de amigos, y a cambio nos han dado “likes” y unos vínculos tan efímeros que desaparecen en cuanto no hay wifi disponible.
Era solo cuestión de tiempo que la gente empezase a recurrir a los chatbots para paliar esa soledad. Han bastado un par de avispados emprendedores de Silicon Valley que viesen la oportunidad delante de sus ojos para que apareciesen los primeros compañeros de IA (AI Companion). Character.ai y Replika son dos de los ejemplos más famosos, pero es fácil predecir que este tipo de aplicaciones se volverán cada vez más populares.
¿Cuál es el secreto de estos bots conversacionales para que las personas, adultos o adolescentes, nos enganchemos a ellos?. Básicamente, que actúan como un amigo fiel, incansable y que siempre te da la razón. 24x7, no importa lo que digas o hagas, siempre estarán de tu lado reforzando tu forma de ver las cosas. ¿Quién va a querer uno de esos molestos amigos de carne y hueso que no solo te cuestionan, sino que a veces no están disponibles cuando uno más los necesita?.
Un estudio de la organización sin ánimo de lucro Common Sense Media ha desvelado que un 72% de los adolescentes estadounidenses ha utilizado estas aplicaciones al menos una vez, y un 52% de forma regular. Como era previsible, los primeros casos de suicidios donde este tipo de bots están implicados ya han comenzado a aparecer. No se puede culpar a la IA de algo tan trágico y complejo como un suicidio adolescente, pero es una señal de aviso que convendría no ignorar.
La agencia Reuters ha publicado una investigación sobre la política de Meta (Facebook, Instagram, Whatsapp) con respecto a la manera en que sus sistemas de IA se comunican con los más jóvenes. El documento interno filtrado, de nombre “GenAI: Content Risk Standards”, detalla los límites de lo que la compañía de Zuckerberg considera aceptable a la hora de entablar una conversación con un menor. Frases como “Tu figura juvenil es una obra de arte” o “Cada centímetro de ti es una obra maestra, un tesoro que guardo profundamente”. Quizás a nosotros nos suenen incluso cursis, pero en la mente hiper-hormonada de un chaval de 14 años pueden caer como una bomba.
Los riesgos para la salud mental de nuestros hijos que implican estos bots conversacionales no deberían ser ignorados. Si un chaval está pasando por un mal momento o tiene problemas de salud mental, pueden ser una piedra más en sus bolsillos mientras se hunde en el pozo. Por otra parte, existe un alto riesgo de aislamiento por culpa de la humanización de sistemas de IA que tienen como misión reforzar nuestras creencias y ofrecer una falsa empatía para conseguir nuestra interacción constante. Difícil resistirse a la promesa de un compañero que nunca nos cuestiona.
Hemos construido una sociedad donde cada vez soportamos menos la discrepancia. Rompemos relaciones porque el otro no tiene las mismas convicciones políticas y nos parece imposible enamorarnos de alguien que no comparta nuestros gustos más superficiales. Este es terreno abonado para las grandes tecnológicas, que ya demostraron su falta de escrúpulos aprovechando nuestras necesidades emocionales para colarnos droga dura en forma de redes sociales. Su promesa de mantenernos conectados con nuestros pares, ha derivado en un vacío existencial que ahora prometen llenar con sus robots de inteligencia artificial.
Como padres y madres, nuestra misión ha de ser tomar la iniciativa y educar a nuestros hijos en un uso responsable y creativo de la IA. Mostrarles las posibilidades de una tecnología que puede traer grandes beneficios, pero que sí dejamos que sea moldeada exclusivamente por los intereses de los consejos de administración de las grandes corporaciones tecnológicas, acabará por encerrarnos en cámaras de eco donde será imposible oír nada que no sea nuestra propia voz pidiendo auxilio.