Selon une étude, les médecins qui s'appuient sur l'IA sont devenus 20 % moins performants pour détecter les risques pour la santé.

Les outils d’assistance par intelligence artificielle sont devenus une ressource quotidienne qui a permis d’augmenter la productivité et la rapidité dans plusieurs secteurs. Malgré les avantages notables de ces systèmes intelligents, des experts médicaux s’inquiètent du fait qu’une dépendance excessive à l’intelligence artificielle puisse causer plus de tort que de bien.

La dépendance à l’IA pourrait réduire les taux de détection des médecins lors des coloscopies

Une étude récente menée sur 1 443 patients a révélé que les endoscopistes utilisant des agents d’IA lors des coloscopies obtenaient un taux de réussite plus faible dans la détection des irrégularités lorsque ces outils n’étaient pas utilisés. 

Les résultats de la recherche, publiés ce mois-ci dans la revue Lancet Gastroenterology & Hepatology, montrent que ces médecins atteignaient un taux de réussite de 28,4 % dans la détection de polypes potentiels grâce à la technologie. Sans ces outils, ce chiffre tombait à 22,4 %, soit une baisse de 20 % des taux de détection.

Le Dr Marcin Romańczyk, gastroentérologue au H-T. Medical Center à Tychy, Pologne, et auteur de l’étude, s’est dit surpris par les résultats. Il a souligné qu’une dépendance excessive à l’intelligence artificielle était l’un des principaux facteurs contribuant à la baisse des taux de détection.

Nous avons appris la médecine dans les livres et auprès de nos mentors. Nous les observions. Ils nous disaient quoi faire. Et maintenant, il y a un objet artificiel qui suggère ce que nous devrions faire, où nous devrions regarder, et en réalité, nous ne savons pas comment nous comporter dans ce cas particulier.

Dr. Marcin Romańczyk

Non seulement le résultat met en évidence les effets potentiellement néfastes d’une dépendance excessive à l’intelligence artificielle, mais il aborde également l’évolution de la pratique médicale, passant d’une tradition axée sur l’analogique à une ère numérique.

Préoccupations concernant l’intelligence artificielle sur le lieu de travail : des gains de productivité au détriment des capacités cognitives

Outre le déploiement accru dans les blocs opératoires et les cabinets médicaux, l’automatisation par IA est devenue une norme sur les lieux de travail, beaucoup se tournant désormais vers ces outils pour accroître la productivité. Goldman Sachs a même prédit en 2023 que l’IA pourrait augmenter la productivité au travail de 25 %.

Mais l’adoption de ces systèmes d’IA s’accompagne également de certains inconvénients à terme. En effet, des recherches menées par des entreprises de premier plan ont mis en évidence les risques liés à une confiance excessive dans ces outils. 

Une publication de Microsoft et de Carnegie Mellon University a noté que l’IA avait permis d’augmenter l’efficacité du travail parmi un groupe de travailleurs du savoir interrogés. Mais elle a affaibli leurs compétences de jugement « en atrophie » et leur capacité analytique.

Dépendance excessive à l’intelligence artificielle dans l’aviation : leçons du vol Air France 447

Même dans le secteur de l’aviation, où la sécurité est primordiale, des preuves antérieures suggèrent qu’une dépendance excessive à l’automatisation peut compromettre la sécurité. En 2009, un vol Air France 447 reliant Rio de Janeiro à Paris s’est écrasé dans l’océan Atlantique, entraînant la perte de plus de 228 vies.

Les enquêtes ont ensuite révélé que le système d’automatisation de l’avion avait développé des dysfonctionnements. Cela a conduit le « directeur de vol » automatisé de l’appareil à transmettre des informations inexactes. Et comme le personnel de vol n’était pas suffisamment formé au pilotage manuel, il s’est appuyé sur les fonctionnalités automatisées de l’avion au lieu de procéder aux ajustements nécessaires.

Équilibrer l’adoption de l’IA et l’expertise humaine dans les secteurs à enjeux élevés

Lynn Wu, professeure associée d’opérations, d’information et de décisions à la Wharton School de l’Université de Pennsylvanie, a noté que ces incidents constituent un avertissement pour l’adoption de l’IA dans les secteurs où la sécurité humaine est cruciale. Wu a expliqué que, tout en adoptant ces technologies, les industries doivent s’assurer que les travailleurs les utilisent de manière appropriée.

Ce qui est important, c’est que nous tirions des enseignements de l’histoire de l’aviation et de la génération précédente d’automatisation, que l’IA peut absolument améliorer la performance. Mais en même temps, nous devons maintenir ces compétences essentielles, afin que lorsque l’IA ne fonctionne pas, nous sachions reprendre le contrôle.

Lynn Wu

Elle a ajouté que si les gens perdent leurs propres compétences, l’intelligence artificielle fonctionnera également moins bien. Pour que l’IA s’améliore, les individus doivent aussi continuellement s’améliorer eux-mêmes.

Romańczyk accepte également l’utilisation de l’IA en médecine, notant que « l’IA fera, ou fait, partie de notre vie, que cela nous plaise ou non. » Il a néanmoins souligné la nécessité de comprendre comment l’intelligence artificielle affecte la pensée humaine et a exhorté les professionnels à déterminer les moyens les plus efficaces de l’utiliser.