Cuando hablamos de sesgos en la IA en la atención sanitaria, la conversación casi siempre comienza y termina con datos. Examinamos conjuntos de entrenamiento, probamos algoritmos y desarrollamos métricas de equidad. Pero hay otro tipo de sesgo que pasa desapercibido: el sesgo de despliegue. Y es igual de peligroso.
Incluso el modelo de IA mejor entrenado y cuidadosamente calibrado puede aumentar la desigualdad, dependiendo de dónde y cómo se implemente. Para ser claros, la IA en cuestión aquí se refiere a sistemas que analizan datos clínicos, como imágenes, notas e historiales médicos de pacientes, y no a herramientas administrativas como transcripciones o asistentes de programación. Con demasiada frecuencia, las herramientas avanzadas se introducen por primera vez en sistemas de salud urbanos con buenos recursos: instalaciones con una sólida infraestructura digital, personal adecuado y estrechos circuitos de retroalimentación institucional. Mientras tanto, los hospitales rurales, las clínicas comunitarias y los proveedores de redes de seguridad esperan. A veces años.
Pero aquí radica el problema más profundo: el sesgo en la implementación afecta no sólo a quién se beneficia de la IA, sino también a cómo se entrena la IA futura. Cuando las herramientas de IA se implementan principalmente en centros urbanos prósperos, los datos que generan reflejarán esas poblaciones, flujos de trabajo y resultados. Estos datos luego se incorporan a la próxima generación de modelos, creando un circuito de retroalimentación que margina aún más a las comunidades subrepresentadas. En otras palabras, el lugar donde utilizamos la IA hoy determina quién estará representado en los algoritmos del mañana.
Esto no es sólo una cuestión de calendario de implementación. Refleja una brecha más profunda en nuestra forma de pensar sobre la innovación. Las mismas comunidades que podrían beneficiarse más del apoyo a las decisiones clínicas, el aumento del diagnóstico o las herramientas de monitoreo remoto son las últimas en recibirlo. No porque la tecnología no esté lista, sino porque asumimos que la infraestructura no está lista. Esta suposición es su propia forma de sesgo. Una revisión del alcance de junio de 2025 de la investigación sobre salud rural de EE. UU. encontró solo 26 estudios revisados por pares sobre herramientas de inteligencia artificial en áreas rurales: 14 se centraron en modelos predictivos y 12 en infraestructura. Ningún estudio examinó la IA generativa en el uso rural del mundo real, y la mitad enfatizó que los datos y la capacidad analítica insuficientes representan una barrera importante para el desarrollo y la validación. Un artículo de julio de 2025 sobre “Una brecha creciente en la atención basada en IA” Señaló que la IA sigue “concentrada en los centros académicos metropolitanos, dejando atrás a las comunidades rurales”. Se señaló que los hospitales rurales enfrentan limitaciones de infraestructura y pocos proyectos de IA van más allá del diseño hacia el uso en el mundo real en estas áreas.
He pasado gran parte de mi carrera enfocado en mejorar el acceso a la atención médica, particularmente en lugares donde la atención médica está a horas de distancia y no a la vuelta de la esquina. Este trabajo me mostró cuán transformadora puede ser la tecnología, pero sólo cuando llega a las personas que más la necesitan. No podemos afirmar que la IA democratizará la atención y al mismo tiempo limitará su alcance a los códigos postales que ya tienen el mejor acceso.
El sesgo de entrega no es malicioso. Pero si no identificamos y explicamos este sesgo, corremos el riesgo de reforzar un sistema de dos niveles en el que la IA mejora los resultados para algunos y no hace nada para otros.
La equidad debe incorporarse a la estrategia de entrega desde el primer día y no verse como una mejora futura. Esto significa priorizar la inclusión no solo en los datos sino también en la entrega, y reconocer que la entrega inclusiva es la base de conjuntos de datos inclusivos. En última instancia, decidir dónde utilizamos la IA envía un mensaje sobre la salud de quién valoramos y de qué datos podemos aprender. Y para aquellos de nosotros que damos forma al futuro de la atención sanitaria, esta decisión nunca debería ser una ocurrencia tardía.
Foto: Klaus Vedfelt, Getty Images
Gilad dijo es CEO y cofundador de TytoCareque está transformando la industria de la atención primaria al llevar las visitas al médico con exámenes físicos remotos al hogar, brindando atención primaria asequible, siempre activa y accesible para todos. TytoCare se está asociando con aseguradoras y proveedores de salud para permitir un mayor acceso virtual a la atención primaria, con un kit de examen portátil que conecta a los usuarios con un médico para un examen médico y una visita de telesalud, sin importar dónde se encuentren.
En la década transcurrida desde que cofundó la empresa, el Sr. Gilad lideró el lanzamiento y establecimiento de TytoCare como un actor importante en el mercado de la telesalud. Bajo su liderazgo, la empresa ha establecido asociaciones con casi 250 importantes actores de la atención sanitaria en todo el mundo. Reconocidos como líderes en el mercado de la telesalud con premios de ATA, Fast Company, MEDICA, Forbes y otros, el Sr. Gilad y TytoCare tienen un historial de mejorar el acceso a la atención e impulsar la adopción y los resultados de la telesalud mejor que otras soluciones del mercado.
Este artículo aparece en el Influencer de MedCity Programa. A través de MedCity Influencer, cualquiera puede publicar sus puntos de vista sobre negocios e innovación en la atención médica en MedCity News. Haga clic aquí para descubrir cómo.
