Micky Tripathi, chef du Bureau du coordonnateur national des technologies de l’information sur la santé (ONC), pense que la récente règle de son bureau sur la transparence de l’IA fera du bon travail en responsabilisant à la fois les fournisseurs et les développeurs technologiques.
“Je pense que cela va stimuler l’adoption d’outils basés sur l’IA dans la prestation des soins de santé et, espérons-le, cela va établir une sorte de mécanisme permettant de piloter des outils basés sur l’IA de meilleure qualité”, a-t-il déclaré lors d’une interview ce mois-ci au Reuters Digital. Conférence sur la santé à San Diego.
En décembre, l’ONC a finalisé une nouvelle règle instaurant des exigences de transparence pour l’utilisation de l’IA dans les établissements de santé. Cela oblige les développeurs d’IA dans le domaine de la santé à fournir davantage de données sur leurs produits aux clients, ce qui pourrait aider les fournisseurs à déterminer les risques et l’efficacité des outils d’IA.
En vertu de la nouvelle règle, les fournisseurs d’IA doivent partager des informations sur le fonctionnement de leurs logiciels et sur la manière dont ils ont été développés. Cela signifie divulguer des informations sur qui a financé le développement de leurs produits, quelles données ont été utilisées pour entraîner le modèle, les mesures qu’ils ont utilisées pour éviter les biais, comment ils ont validé le produit et pour quels cas d’utilisation l’outil a été conçu.
La règle ne s’applique pas uniquement aux modèles d’IA explicitement impliqués dans les soins cliniques : elle s’applique également aux outils qui affectent indirectement les soins aux patients, tels que ceux qui facilitent la planification ou la gestion de la chaîne d’approvisionnement. Il devrait entrer en vigueur le premier jour de 2025.
De nombreux cliniciens redoutent l’utilisation de nouveaux modèles d’IA, a souligné Tripathi. Certains cliniciens considèrent les formes avancées d’IA comme un territoire inexploré et craignent que ces produits puissent commettre de graves erreurs.
En établissant cette règle, l’ONC cherche à donner aux fournisseurs plus de visibilité sur les outils d’IA dont ils disposent afin qu’ils puissent prendre des décisions éclairées sur les solutions les plus fiables et celles qui pourraient convenir à leurs flux de travail, a expliqué Tripathi.
Ces informations seront affichées dans le DSE, les rendant accessibles aux cliniciens qui souhaitent en savoir plus sur la conception, la validation et les cas d’utilisation des outils à leur disposition, a-t-il ajouté.
Tripathi a également noté que la nouvelle règle donne aux développeurs d’IA dans le domaine de la santé la possibilité de se différencier de la concurrence.
Il a déclaré avoir entendu des organisations fournisseurs qui envisageaient d’intégrer les prochaines divulgations de transparence des développeurs dans leur stratégie de gouvernance plus large de l’IA. Certains de ces fournisseurs ont également déjà commencé à exiger les mêmes types de divulgations de transparence de la part des développeurs tiers avec lesquels ils envisagent de s’associer, a-t-il ajouté.
Photo : Natali_Mis, Getty Images
