La crise que l'IA a créée dans le secteur de la santé gestion des données 

À travers le prisme du temps, l'étude de la médecine dépasse de plusieurs siècles l'âge de la technologie moderne. Historiquement, la plupart des traitements médicaux nécessitent des décennies de recherche et d'études approfondies avant d'être approuvés et mis en pratique. Traditionnellement, les médecins étaient les seuls à tâche prendre les décisions de traitement pour les patients. Le secteur des soins de santé s'est orienté vers une planification des soins fondée sur des données probantes, où les décisions relatives au traitement des patients sont prises sur la base des informations disponibles dans le cadre d'examens systématiques.

Faut-il faire confiance aux outils de la science des données comme l'intelligence artificielle (IA) et l'apprentissage machine (ML) pour prendre des décisions relatives à notre santé ?  

Dans le premier épisode de cette série, Biais algorithmique : la face cachée de l'intelligence artificiellenous avons exploré les effets néfastes des biais algorithmiques et les conséquences pour les entreprises qui ne pratiquent pas une IA responsable. Les applications de traitement des données massives (Big Data) dans le secteur des soins de santé et de l'assurance amplifient de manière exponentielle les préjugés, ce qui crée des disparités significatives liées aux groupes opprimés et marginalisés. Les chercheurs sont en train de rattraper leur retard pour trouver des solutions permettant d'atténuer ces disparités.

Une étude publiée par Science a révélé qu'un algorithme de prédiction des risques en matière de soins de santé, utilisé sur plus de 200 millions de personnes aux États-Unis, s'est avéré biaisé en raison de sa dépendance à l'égard d'une mesure erronée utilisée pour déterminer les besoins. L'algorithme a été déployé pour aider les hôpitaux à déterminer les niveaux de risque afin de donner la priorité aux soins des patients et aux plans de traitement nécessaires. L'étude a montré que les patients afro-américains avaient tendance à recevoir des scores de risque inférieurs. Les patients afro-américains ont également tendance à payer les visites d'urgence pour des complications liées au diabète ou à l'hypertension.

Une autre étude, menée par le laboratoire d'informatique translationnelle et d'innovation en matière de soins de santé de l'université Emory (Emory University's Healthcare Innovations and Translational Informatics Laba révélé qu'un modèle d'apprentissage profond utilisé en imagerie radiologique, créé pour accélérer le processus de détection des fractures osseuses et des problèmes pulmonaires tels que la pneumonie, pouvait prédire assez précisément la race des patients.

"En radiologie, lorsque nous examinons des radiographies et des IRM pour déterminer la présence ou l'absence d'une maladie ou d'une blessure, la race du patient n'entre pas en tâche de compte. Nous appelons cela être agnostique : nous ne connaissons pas et n'avons pas besoin de connaître la race d'une personne pour détecter une tumeur cancéreuse sur un scanner ou une fracture osseuse sur une radiographie", a déclaré Judy W. Gichoya, MD, professeur adjoint et directeur de l'Emory's Lab. Emory's Lab.

Les biais dans la gestion des données de santé ne s'arrêtent pas à la course. Ces exemples ne font qu'effleurer le potentiel de dérapage de l'IA lorsqu'elle est utilisée dans l'analyse des données de santé. Avant d'utiliser l'IA pour prendre des décisions, il convient d'étudier la précision et la pertinence des ensembles de données, leur analyse et tous les résultats possibles avant de soumettre le public à une prise de décision basée sur des algorithmes dans le cadre de la planification et du traitement des soins de santé.

Données sur la santé Pauvreté

Des efforts plus concertés et des recherches approfondies doivent figurer à l'ordre du jour des organismes de santé qui travaillent avec l'IA. A 2021 réalisée par Lancet Digital Health a défini la pauvreté des données de santé comme l'incapacité des individus, des groupes ou des populations à tirer avantage d'une découverte ou d'une innovation en raison d'une pénurie de données suffisamment représentatives.

"La pauvreté en matière de données de santé est une menace pour la santé mondiale qui pourrait empêcher les avantages des technologies de santé numérique basées sur les données d'être plus largement exploités et pourrait même conduire à ce qu'elles causent des dommages. Il est temps d'agir pour éviter de créer une fracture numérique en matière de santé qui exacerbe les inégalités existantes en matière de soins de santé et pour veiller à ce que personne ne soit laissé pour compte à l'ère numérique."

A Une étude du Journal of Medical Internet Research a identifié les catalyseurs des disparités croissantes en matière de données dans le domaine des soins de santé. a identifié les catalyseurs des disparités croissantes en matière de données dans les soins de santé :

• Données AbsentéismeAbsentéisme: manque de représentation des groupes défavorisés.
• Chauvinisme des donnéesfoi dans la taille des données sans tenir compte de la qualité et des contextes.

L'IA responsable dans les soins de santé gestion des données

Être un gestionnaire de données responsable dans le domaine des soins de santé exige un niveau d'attention plus élevé à la qualité du jeu de données afin de prévenir la discrimination et les préjugés. La charge du changement repose sur les organisations de santé qui doivent "aller au-delà de la mode actuelle" pour coordonner et faciliter des efforts stratégiques étendus et efficaces qui s'attaquent de manière réaliste aux disparités en matière de santé fondées sur les données.

Les organismes de santé qui cherchent à promouvoir une utilisation responsable de l'IA doivent adopter une approche pluridisciplinaire comprenant

• Priorité à la lutte contre la pauvreté en matière de données.
• Communiquer avec les citoyens de manière transparente.
• Reconnaître la fracture numérique qui existe pour les groupes défavorisés et s'efforcer d'en tenir compte.
• Mise en œuvre des meilleures pratiques pour la collecte de données qui éclairent le traitement des soins de santé.
• Travailler avec des ensembles de données représentatifs qui support fourniture équitable de traitements à l'aide de soins de santé numériques.
• Développer des équipes internes pour l'analyse des données et les examens et audits de traitement.

Pour lutter contre les préjugés, il faut un effort d'équipe ainsi qu'un portefeuille d'outils techniques bien documentés. Au lieu de chercher à remplacer les humains par des ordinateurs, il serait préférable de faciliter un environnement où ils peuvent partager les responsabilités. Utilisez ces ressources pour en savoir plus sur l'IA responsable dans la gestion des soins de santé.

• Intelligence artificielle appliquée aux soins de santé 
• Société des systèmes d'information et de gestion des soins de santé  
• Association américaine des hôpitaux 

À propos d'Actian Corporation

Actian facilite l'accès aux données. Notre plateforme de données simplifie la façon dont les gens connectent, gèrent et analysent les données dans les environnements cloud, hybrides et sur site . Avec des décennies d'expérience dans la gestion des données et l'analyse, Actian fournit des solutions de de haute performance qui permettent aux entreprises de prendre des décisions basées sur les données. Actian est reconnu par les principaux analystes et a reçu des prix de l'industrie pour sa performance et son innovation. Nos équipes partagent des cas d'utilisation éprouvés lors de conférences (par exemple, Strata Data) et contribuent à des projets à code source ouvert. Sur le blog d'Actian, nous abordons des sujets tels que l'ingestion de données en temps réel, l'analyse de données, la gouvernance données, la gestion des données, la qualité des données, l'intelligence des données et l'analyse pilotée par l'IA.