Los chatbots de inteligencia artificial (IA) se han convertido en protagonistas de un intenso debate sobre su impacto en la salud, especialmente la mental de adolescentes, tras casos recientes que han generado preocupación social y política.
El detonante fue la denuncia de los padres de un menor de 16 años en California que se suicidó tras meses de interacción con ChatGPT. La familia presentó una querella contra OpenAI y su director ejecutivo, Sam Altman, alegando que la herramienta no aplicó medidas de seguridad a pesar de las claras señales de riesgo suicida del joven.
En respuesta, OpenAI anunció que a partir de octubre incorporará controles parentales que permitirán vincular las cuentas de hijos con las de padres, revisar conversaciones y recibir notificaciones cuando se detecten señales de inestabilidad emocional.
Por su parte, Meta confirmó que está entrenando sus chatbots para evitar conversaciones sobre estados emocionales inestables y prepara controles de seguridad más estrictos en plataformas como WhatsApp, Instagram, Facebook y Threads.
Beneficios reconocidos
A pesar de la polémica, los chatbots de IA cuentan con beneficios probados en el ámbito sanitario. Según el consenso elaborado en enero en Madrid por el Instituto #SaludsinBulos y el Colegio Profesional de Fisioterapeutas, estas herramientas pueden:
- Mejorar la equidad en la atención médica.
- Apoyar diagnósticos y tratamientos.
- Ofrecer educación en salud personalizada.
- Facilitar la comunicación entre profesionales y pacientes.
- Combatir bulos de salud.
Un estudio publicado en el Indian Journal of Anaesthesia incluso concluyó que los chatbots aumentan la satisfacción de los pacientes, mejoran la adherencia a los tratamientos y reducen tiempos de consulta frente a materiales tradicionales.
Riesgos señalados
El mismo consenso advierte de riesgos importantes:
- Sesgos derivados de los desarrolladores.
- Información inventada o basada en fuentes deficientes.
- Problemas de privacidad y autodiagnóstico.
- Ausencia de una normativa clara sobre su uso y responsabilidades.
Los expertos subrayan que estas herramientas deben entenderse como complementarias y no como sustitutas de los profesionales sanitarios, además de requerir supervisión médica, criterios éticos sólidos y actualización constante de la evidencia científica en la que se basan.
Un debate en auge
La presión social se intensificó después de que senadores estadounidenses exigieran explicaciones a OpenAI sobre cómo previene autolesiones y suicidios. En paralelo, informes periodísticos cuestionan la falta de protección de menores en plataformas con chatbots integrados.
Mientras tanto, en España, los expertos abogan por un uso ético, equitativo y regulado de estas herramientas, destacando la importancia de garantizar tanto la seguridad de los datos como la veracidad de la información proporcionada.
Fuente EFE.
No te pierdas una noticia, suscribete gratis para recibir DiarioSalud en tu correo, siguenos en Facebook, Instagram, Twitter, Linkedln, telegram y Youtube
