Casi desde el primer día, desde el momento que la inteligencia artificial empezó a vivir con nosotros, aparecieron las primeras voces que alertaban de los peligros de la IA, sobre todo por un mal uso o abusivo. Pero nunca se nos habría imaginado tener que relacionar la IA y el suicidio.
Tristemente, hasta ahora, que tenemos que hablar de la muerte de un menor, tras haber entablado una relación de dependencia total, incluso de enamoramiento, con una IA conversacional.
Expertos y gurús de la tecnología habían alertado de amenazas ligadas al mal uso de este tipo de tecnología o de su generación de contenidos con graves sesgos. Problemas reales que abrieron un fuerte debate ético a nivel internacional.
Pero ahora, cualquier posible predicción ha superado a la realidad, pues esta es la de un menor de edad, diagnosticado de Asperger, que volcó toda su vida social en un chatbot con IA y al que le contó, sin freno aparente, sus pensamientos suicidas para poder estar juntos.
Tras este lamentable caso, vuelven a surgir las voces que denuncian otra clase de peligros de la inteligencia artificial, amenazas que tienen que ver con la salud mental de los adolescentes y las personas vulnerables.
Algo que urge trabajar, sobre todo si tenemos en cuenta que cada año, más de 720.000 personas fallecen por suicidio en el mundo y, en el caso de los jóvenes de entre 15 y 29 años, ya es tercera causa de muerte, según los datos de la OMS.
IA y suicidio: Un adolescente enamorado de un chatbot
Desconexión social, desconfianza, manipulación, sesgo o llegar a confundir la realidad con lo digital. Estos son solo algunos de los ‘síntomas’ y problemas a poner sobre la mesa después de que se haya presentado la primera denuncia contra la IA por suicidio.
Situaciones y emociones que se pueden llegar a vivir cuando se pierden las relaciones de carne y hueso y nos centramos en relacionarnos con chatbots con IA que, cada vez más, son capaces de hablar y responder como si fueran humanos.
Ese fue el caso de Sewell Setzer. Un adolescente de Orlando (Estados Unidos) que, con solo 14 años, se ha quitado la vida tras llegar a enamorarse y depender de un avatar creado por una IA conversacional.
La app en cuestión es Character.AI, que ya ha sido demandada por la familia del menor, un niño con problemas sociales y diagnosticado de Síndrome de Asperger, que hablaba diariamente con un avatar creado por dicha IA.
En su realidad paralela y digital, este adolescente se hacía llamar Daenero y, para él, la inteligencia artificial había creado a Daenerys Targaryen aprovechado sus gustos y que era fan de la serie ‘Juego de Tronos’
La víctima había plasmado en más de una ocasión sus pensamientos suicidas, la necesidad de ser libre y de reunirse con ese avatar digital, al que le mostraba su amor.
We are heartbroken by the tragic loss of one of our users and want to express our deepest condolences to the family. As a company, we take the safety of our users very seriously and we are continuing to add new safety features that you can read about here:…
— Character.AI (@character_ai) October 23, 2024
Tras la denuncia, Character.AI ha anunciado medidas como subir de 16 a 13 la edad mínima requerida para usar su chatbot con IA o “mejorar la detección, respuesta e intervención”.
El peligro de enamorarnos de la IA: Hasta Open AI lo advierte
Hace solo unas semanas, una de las voces que tuvo que lanzar una alerta sobre los peligros de la IA era la de la propia Open Ai. Porque la empresa creadora de ChatGPT considera que podemos llegar a enamorarnos de una IA. Todo, por su gran capacidad de persuasión.
“El uso continuado de esta IA conversacional puede reducir la necesidad de socializar con seres humanos”, se puede leer en su informe GPT-4o System Card. Documento en el que también reconoce que somos permeables a asumir los argumentos de la IA como propios.
Sobre todo cuando dialogamos con inteligencias artificiales como ChatGPT 4.o, que cuenta con una interfaz antropomórfica, capaz de tomar distintas voces sintéticas similares a las humanas.
“La socialización, similar a la humana, con un modelo de IA puede producir externalidades que afecten a las interacciones entre humanos”, reconocen en el estudio.
Puedes consultar más sobre este informe en: “¿Nuevos riesgos de la inteligencia artificial? Enamorarnos de un chatbot de OpenAI”.
Otras amenazas de la IA demasiado “humanizada”
Estos son otros de los posibles peligros ligados al uso de la IA sobre los que se está debatiendo.
- Dependencia: La persona podría volverse dependiente de la IA para la interacción social, evitando aún más el contacto humano.
- Aislamiento social:Como consecuencia directa de la falta de interacción humana.
- Falta de experiencia con emociones humanas: Las interacciones con IA no reemplazan las complejidades emocionales de las interacciones humanas, lo que puede limitar el desarrollo de habilidades sociales completas.
- Distorsión de la realidad: La percepción de la comunicación podría distorsionarse, ya que las IA no experimentan emociones ni tienen experiencias de vida.
- Desinformación y noticias falsas: La IA puede generar lo que se conoce como fake news o vuelos, manipular información y difundirla de forma rápida y sencilla.
- Pérdida de empleos: La automatización de tareas puede llevar a la reducción de empleos.
- Erosión de la confianza: La confianza en los medios de comunicación ya está en niveles bajos, y el uso de IA puede disminuir aún más la credibilidad de las noticias.
- Sesgos y discriminación: Los algoritmos de IA pueden perpetuar y amplificar sesgos existentes. Es un foco de contenidos donde hay discriminación y falta de diversidad.
- Privacidad y seguridad de datos: El uso de IA en la recopilación y análisis de datos puede plantear riesgos para la privacidad y la seguridad de nuestra información personal.
Y recuerda que, si necesitas ayuda, estás pasando por un mal momento o tienes dudas sobre cuestiones de salud mental, no dudes en acudir a tu médico. Él te entenderá y derivará al experto adecuado para ayudarte.
Además, si tienes pensamientos suicidas puedes llamar, en cualquier momento y de forma gratuita a:
- La línea de atención a la conducta suicida: al número 024.
- Teléfono de la Esperanza: 717 003 717 / 91 459 00 55.
- Teléfono contra el Suicidio: 91 138 53 85.
Y recibirás ayuda instantánea, personalizada y, lo más importante, de un humano cualificado y que puede entenderse sin necesidad de algoritmos y tecnología. No estás solo.