Applications en sant茅 : constats et pistes de solutions pour des outils plus fiables
Une nouvelle 茅tude r茅v猫le que les applications aliment茅es par l鈥檌ntelligence artificielle (IA) qui permettent d鈥檕btenir un diagnostic m茅dical par un simple clic s鈥檃ppuient souvent sur des donn茅es biais茅es et une r茅glementation d茅ficiente. L鈥檜tilisateur risque alors d鈥檕btenir des conseils inexacts et dangereux pour sa sant茅.
Une 茅quipe de recherche de l鈥橴niversit茅 不良研究所 a voulu tester deux applications types largement utilis茅es en leur soumettant des sympt么mes tir茅s de cas m茅dicaux authentiques. Les , publi茅s dans le Journal of Medical Internet Research, indiquent que les applications ont parfois pos茅 des diagnostics exacts, mais que, souvent, elles n鈥檕nt pas r茅ussi 脿 d茅tecter des maladies graves. Ces failles auraient pu retarder la mise en route du traitement.
L鈥櫭﹒uipe a d茅gag茅 deux grands probl猫mes dans les applications test茅es : des donn茅es biais茅es et un manque de r茅glementation.
Les biais et le ph茅nom猫ne de la bo卯te noire
L鈥檈xpression 芦 脿 donn茅es inexactes, 谤茅蝉耻濒迟补迟蝉 erron茅s 禄 d茅finit bien la notion de biais dans le pr茅sent contexte.
芦 Ces applications s鈥檃breuvent 脿 des ensembles de donn茅es biais茅es qui ne refl猫tent pas fid猫lement diverses populations 禄, explique Ma鈥檔 H. Zawati, auteur principal et professeur agr茅g茅 au D茅partement de m茅decine de l鈥橴niversit茅 不良研究所.
Comme les donn茅es qui alimentent ces applications sont fournies par des utilisateurs de t茅l茅phones intelligents, elles ont tendance 脿 exclure les personnes 脿 faible revenu. Elles ne repr茅sentent pas non plus une diversit茅 de races et d鈥檕rigines ethniques, ajoutent les auteurs. S鈥檈nsuit un cercle vicieux o霉 les applications utilisent les donn茅es d鈥檜n groupe restreint d鈥檜tilisateurs, et fournissent des 谤茅蝉耻濒迟补迟蝉 biais茅s et des conseils m茅dicaux potentiellement malavis茅s.
Les applications renferment souvent des mises en garde indiquant qu鈥檈lles ne fournissent pas de conseils m茅dicaux. Toutefois, l鈥檃uteur de l鈥櫭﹖ude pr茅cise que les utilisateurs n鈥檌nterpr猫tent pas toujours bien ces mises en garde, et encore faut-il qu鈥檌ls les lisent.
Le deuxi猫me probl猫me est le concept de 芦 bo卯te noire 禄 associ茅 aux syst猫mes d鈥橧A, environnement o霉 la technologie fait son 艙uvre 脿 l鈥檃bri d鈥檜ne v茅ritable surveillance humaine. Pour le Pr Zawati, ce manque de transparence peut m锚me emp锚cher le d茅veloppeur de bien comprendre comment son application tire ses conclusions.
芦 Sans r茅glementation pr茅cise, les d茅veloppeurs n鈥檕nt aucune obligation de reddition de compte. Par cons茅quent, les m茅decins ne sont pas enclins 脿 recommander ces outils 禄, ajoute le Pr Zawati, qui est 茅galement membre associ茅 au D茅partement d鈥櫭﹒uit茅, d鈥櫭﹖hique et de politiques et 脿 la Facult茅 de droit de l鈥橴niversit茅 不良研究所, et directeur de recherche du Centre de g茅nomique et politiques au D茅partement de g茅n茅tique humaine de 不良研究所. 芦 Les utilisateurs courent donc le risque d鈥檕btenir un diagnostic erron茅. 禄
Un appel 脿 la surveillance
Pour repousser les limites des applications, le chercheur sugg猫re aux d茅veloppeurs d鈥檈ntra卯ner les applications au moyen de donn茅es plus diversifi茅es, de proc茅der 脿 des v茅rifications fr茅quentes pour d茅tecter les biais, d鈥檃ccro卯tre la transparence pour permettre une meilleure compr茅hension du fonctionnement des algorithmes et de faire jouer un plus grand r么le 脿 l鈥檋umain dans la prise de d茅cisions.
芦 Moyennant une conception r茅fl茅chie et une surveillance rigoureuse, les applications sant茅 aliment茅es par l鈥橧A pourraient faciliter l鈥檃cc猫s aux soins et devenir des outils pr茅cieux en milieu clinique. 禄
Cette recherche a 茅t茅 financ茅e par le Fonds de recherche du Qu茅bec.
尝鈥櫭﹖耻诲别
L鈥檃rticle 芦 禄, par Ma鈥檔
