Aunque creamos que la IA solo viene a ayudarnos, la realidad es que puede ser de los más peligrosa en según qué ámbitos. Sobre todo cuando perpetuán sesgos racistas en sectores tan críticos como la salud.
Google Cloud, la división de servicios y productos en la nube de Google, está colaborando con Highmark Health, una empresa sanitaria sin ánimo de lucro con sede en Pittsburgh, en herramientas de IA generativa diseñadas para personalizar la experiencia de admisión de los pacientes.
La división AWS de Amazon afirma estar trabajando con clientes anónimos en una forma de utilizar la IA generativa para analizar bases de datos médicas en busca de “determinantes sociales de la salud”.
Y Microsoft Azure está ayudando a crear un sistema de IA generativa para Providence, la red sanitaria sin ánimo de lucro, para clasificar automáticamente los mensajes enviados por los pacientes a los profesionales sanitarios.
Entre las startups de IA generativa más destacadas del sector sanitario se encuentran Ambience Healthcare, que está desarrollando una aplicación de IA generativa para médicos; Nabla, un asistente de IA ambiental para médicos; y Abridge, que crea herramientas de análisis para documentación médica.
El amplio entusiasmo por la IA generativa se refleja en las inversiones en iniciativas de IA generativa dirigidas a la atención sanitaria. En conjunto, las startups de IA generativa en sanidad han recaudado decenas de millones de dólares en capital riesgo hasta la fecha, y la gran mayoría de los inversores en sanidad afirman que la IA generativa ha influido significativamente en sus estrategias de inversión.
Pero tanto los profesionales como los pacientes tienen dudas sobre si la IA generativa centrada en la atención sanitaria está lista para el prime time.
La IA generativa podría no ser lo que la gente quiere
En una encuesta reciente de Deloitte, solo cerca de la mitad (53%) de los consumidores de EE.UU. dijeron que pensaban que la IA generativa podría mejorar la asistencia sanitaria, por ejemplo, haciéndola más accesible o acortando los tiempos de espera para las citas. Menos de la mitad dijeron que esperaban que la IA generativa hiciera más asequible la atención médica.
Andrew Borkowski, director de IA de la VA Sunshine Healthcare Network, el mayor sistema sanitario del Departamento de Asuntos de Veteranos de EE. UU., no cree que el cinismo esté injustificado. Borkowski advierte de que el despliegue de la IA generativa podría ser prematuro debido a sus “importantes” limitaciones y a las dudas que suscita su eficacia.
Varios estudios sugieren que estos puntos tienen fundamento
En un artículo publicado en la revista JAMA Pediatrics, se descubrió que el chatbot de IA generativa de OpenAI, ChatGPT, que algunas organizaciones sanitarias han probado en casos de uso limitado, cometía errores en el diagnóstico de enfermedades pediátricas el 83% de las veces.
Y al probar el GPT-4 de OpenAI como asistente de diagnóstico, los médicos del Beth Israel Deaconess Medical Center de Boston observaron que el modelo daba un diagnóstico erróneo como respuesta principal casi dos de cada tres veces.
