Un consejero poco empático

La Inteligencia Artificial (IA) a la hora de asesorar y atender a las personas en materia de salud mental no se encuentra perfeccionada. En este ámbito, la IA tiene sus fallas y no se pueden verificar los datos que proporciona a aquellas personas que consultan por algún padecimiento mental.

---

Según un informe del 2022 realizado por la OMS, "el 9% de la población tiene algún tipo de problema de salud mental y el 25% lo tendrá en algún momento a lo largo de su vida". Esto se resume en que una de cada cuatro personas tiene o tendrá algún problema de salud mental a lo largo de su vida. Con tantas personas sobre las cuales trabajar, era esperable que se haya comenzado a utilizar la Inteligencia Artificial debido a su capacidad de lectura de datos sin embargo aún le falta desarrollarse en este ámbito.

En su artículo "Salud mental en la era de la inteligencia artificial: la necesidad de visibilizar los riesgos", el medio Página 12 expresó que los resultados de buscar los síntomas en las nuevas aplicaciones de IA generan "angustia o miedo" en el paciente que no consultó con un profesional. "Nada reemplaza la intervención directa de un profesional de la salud capacitado para identificar la problemática y urgencia del caso", sentenció.

Los programas de IA que pretenden ayudar a las personas con alguna dificultad mental si bien no presentan la desventaja de los horarios o limitaciones geográficas no tienen la posibilidad aún de observar al paciente y producir ciertos sentimientos que son necesarios en la interacción.

Candela Arregui, psicóloga especializada en adolescentes y adultos explicó que “no hay sentimientos por parte del bot, las respuestas son programadas y no existe la particularidad”. Por otro lado, mencionó que "si bien estas fuentes de acompañamiento pueden reproducir palabras e ideas cargadas y entrenadas por los seres humanos, no pueden tener empatía frente a una persona que sufre, por ejemplo, soledad".

Estas nuevas tecnologías fueron "entrenadas" a través de la recopilación de información obtenida de buscadores. En nuestro país, a este problema se suma que "no contamos con una regulación de la Inteligencia Artificial y por ende no se sabe quién, ni con qué datos entrenó a los algoritmos y, en consecuencia, la fiabilidad de los mismos", advirtió Página 12.

Esto deriva en que "se puedan escapar casos críticos, graves y de riesgo potencial (suicidios, trastornos de la imagen y de la alimentación o abusos de sustancias, entre otros) debido a posibles errores por sesgos o algoritmos imperfectos”, desarrolló Mireia Cabero, profesora colaboradora de los estudios de Psicología y Ciencias de la Educación en la Universidad de Cataluña.

Además, el medio argentino manifestó: "Advertimos que estos servicios además de colocar al usuario/paciente en una potencial situación de riesgo que podría agravar su cuadro de salud, en materia de derechos del consumidor, lo posiciona en una situación de hípervulnerabilidad, porque sumada la problemática de salud se transforma en un usuario de este modelo de IA con altas probabilidades de no estar en condiciones de ser consciente de cómo funciona este servicio y, por ende, sus resultados".

En concordancia con el diario digital, la revista Brains dedicó una edición para la IA y la salud mental y expresó en su primera página de desarrollo que “los organismos, entidades o empresas que apliquen la IA deberán especificar detalladamente con qué datos crean los algoritmos o aplican la IA y para qué finalidades”. Además de que "se debe asegurar la privacidad de los datos del paciente".

Si bien la Inteligencia Artificial está demostrando avances rápidos en materia de detección de enfermedades, en lo que respecta al tratamiento de cuestiones de salud mental carece de las capacidades humanas que son necesarias en estos casos. La IA para ayudar a los pacientes con estas complicaciones aún no se encuentra totalmente "entrenada", no se puede confiar en los datos que utiliza y podría agravar el cuadro de salud de aquellas personas que consultaron estos servicios.

Leé también: Tan perfecta que no exista