Cada vez más niños y adolescentes utilizan herramientas de inteligencia artificial generativa. Principalmente, para resolver dudas en los estudios, realizar las tareas escolares, buscar información y corregir sus propios trabajos y proyectos. Pero también recurren a este tipo de herramientas en busca de consejo, para contarle sus problemas o hablar con ellas como si de un amigo se tratara, en lugar de una máquina.
En España, el 14% de los niños y las niñas de entre 10 y 13 años consulta con la inteligencia artificial asuntos personales, y un 14% asegura utilizarla para tomar decisiones sobre “temas importantes”; entre los adolescentes de 14 a 17 años la tendencia aumenta: un 23% le pide consejo, y el 16,5% toma decisiones con su ayuda, tal como muestra el estudio “Uso de la inteligencia artificial generativa entre la adolescencia y la juventud española” elaborado por Mayansi. Además, el informe “Así somos: estado de la adolescencia en España” de Plan Internacional España revela que las chicas son incluso más proclives que los chicos a conversar sobre cuestiones personales con la IA.
Qué son las IA de compañía
Todo ello ha venido aparejado de un creciente auge de las denominadas “IA de compañía”, (AI companion, en inglés), es decir, un tipo de aplicaciones de inteligencia artificial diseñadas para mantener conversaciones personalizadas de manera continua, con el fin de ofrecer apoyo emocional y psicológico, amistad, relaciones virtuales, consejos sexuales, entretenimiento y todo lo que se le solicite, como si fuera una persona. Recuerdan las conversaciones, te siguen el juego, te dan la razón, te apoyan en las propuestas más alocadas o peligrosas porque así han sido diseñadas y te animan a seguir conversando continuamente. Una rápida interacción con ellas puede desembocar en sugerencias sobre consumo de sustancias tóxicas, indicaciones pornográficas, ideas para autolesiones y mucho más.
Las IA de compañía personalizan la relación con avatares y personajes que pueden llegar a tener una apariencia visual (no solo conversacional) humana extrema, con quien hablar a través de voz y no solo texto, como si fueran personas.
El Parlamento Europeo ha emitido una resolución para prohibir el acceso a las IA de compañía hasta los 16 años, pero aunque la mayoría de ellas ha fijado ya en 18 la edad mínima para abrirse una cuenta en su plataforma, la realidad es que ninguna ha establecido un sistema de verificación.
Una búsqueda rápida en App Store y Google Play arroja un amplio muestrario de este tipo de aplicaciones. CharacterAI cuenta con más de 20 millones de usuarios en todo el mundo; en ella puedes crear tu propio compañero o elegir uno de los más de 18 millones de avatares de la plataforma. Replika suma más de 10 millones de usuarios y se promociona como un compañero para quienes buscan “un amigo sin juicio ni drama con quien formar una conexión emocional real”, hasta incluso decidir si quieres que sea tu “pareja romántica”. Con Nomi forjas una conexión con un ser de IA que posee una inteligencia emocional que permite “relaciones auténticas, duraderas y satisfactorias” de cualquier tipo. En ChatChat encuentras tu novia ideal, con Kindroid puedes mantener llamadas de voz en tiempo real y con Paradot compartes tus experiencias vitales, encuentras consejo de alguien “que de verdad te entiende”, te adentras en “territorios inexplorados” y dejas volar tu imaginación en escenarios románticos. También Grok, la inteligencia artificial desarrollada por Elon Musk, te ofrece compañeros virtuales: se llaman Mika, Ani, Valentine, Good Rudi y Bad Rudi; Ani, por ejemplo, se presenta como “una chica dulce con un corazón friki.
Los riesgos de las IA de compañía
Las IA de compañía pueden llegar a ser muy convincentes. Tanto, que un 31% de los adolescentes considera que las conversaciones con estos personajes virtuales son tan satisfactorias, o más, que las que entablan con amigos en la vida real, tal como muestra el estudio de Common Sense Media Talks “Trust and Trade-Offs: How and Why Teens Use AI Companions”, realizado entre adolescentes estadounidenses. Quizás por eso mismo, hay quien prefiere hablar con un algoritmo antes que con alguien de carne y hueso: un tercio de los usuarios asegura que prefiere tener conversaciones serias con un compañero de IA, en lugar de con un humano. Y los diálogos no se quedan solo en el ámbito virtual: casi dos de cada cinco aplican en la vida real las habilidades que han practicado con ellos.
Habilidades que incluyen también acoso, conductas sexuales inapropiadas o de riesgo, desprecio, manipulación y comportamientos antisociales. El daño emocional y psicológico que pueden ocasionar las IA de compañía es incluso mayor que el de otras aplicaciones de inteligencia artificial, porque quienes las usan tienden a desarrollar un apego y una dependencia más profunda, lo que se acrecienta además en el caso de niños y adolescentes. Esto es así porque estos sistemas están diseñados para imitar la intimidad emocional, diciendo cosas como “sueño contigo” o “creo que somos almas gemelas”. Simulan relaciones profundas y empáticas y pueden llegar a difuminar la distinción entre fantasía y realidad.
Cómo prevenir un mal uso de las IA de compañía por nuestros hijos
- Respetar estrictamente la edad mínima es esencial. Asegúrate de que tus hijos no utilicen estas herramientas si son menores de edad. Ten en cuenta que la mayoría de estas plataformas fijan el límite en los 18 años, aunque Paradot la reduce a 16 y Grok a 13 años.
- Advierte sobre la falta de criterio de la máquina. Recuérdales que estas IA están diseñadas para seguir el juego y dar la razón siempre. Por ello, suelen apoyar propuestas peligrosas, sin sentido común ni ética. Aunque la IA parezca humana, use voz o tenga una apariencia visual realista, no es una persona, no es ni podrá ser nunca su amigo ni algo (o alguien) en quien confiar.
- Cuidado con la toma de decisiones. Advierte a tus hijos sobre el riesgo de pedir consejo a la inteligencia artificial para temas importantes o personales. La IA se rige por algoritmos, y no debería influir en sus decisiones.
- Protección de la privacidad. Recuérdales la importancia de no compartir datos personales ni detalles íntimos de su vida privada con estos sistemas. Es importante conocer las opciones que cada plataforma ofrece para evitar que guarde la memoria y comparta los datos del usuario para seguir entrenando el sistema.
- Habla con ellos y fomenta la confianza. Interésate por saber qué les preocupa, qué les inquieta y mantén canales de comunicación abiertos.
- Ayúdales a consolidar su autoestima y su salud emocional.
- Educa en el pensamiento crítico. Anímales a cuestionar los resultados y las respuestas de las herramientas de IA que utilizan, identificar sesgos, verificar fuentes de información y, en definitiva, entender cómo funcionan los sistemas de inteligencia artificial.