DES CHERCHEURS ALERTENT SUR LES QUESTIONS ÉTHIQUES LIÉES À L'UTILISATION DE L'INTELLIGENCE ARTIFICIELLE EN MÉDECINE
synthèse de presse bioéthique de genethique.org
Dans un article de perspective publié le 15 mars dans le New England Journal of Medicine, des chercheurs de l’Ecole de médecine de l’Université de Stanford en Californie ont alerté sur les implications éthiques liées à l’utilisation d'outils d'apprentissage algorithmiques pour la prise de décisions en matière de soins de santé, notamment dans leur utilisation à grande échelle.
Parmi les préoccupations soulevées par les auteurs :
- Les données utilisées pour créer des algorithmes qui peuvent contenir des biais qui se reflètent dans les algorithmes et dans les recommandations cliniques qu'ils génèrent : « Les algorithmes intégrés dans le système de soins de santé pourraient refléter des intérêts différents et contradictoires», explique David Magnus, docteur en philosophie, auteur principal de la tribune et directeur du Stanford Centre for Biomedical Ethics. « Que se passera-t-il si l'algorithme est conçu pour économiser de l'argent ? Si les différentes décisions de traitement concernant les patients sont prises en fonction de leur prise en charge ou de leur capacité à payer ? ».
- Les médecins doivent bien comprendre la façon dont les algorithmes sont créés, évaluer de façon critique la provenance des données qui sont utilisées pour créer les modèles statistiques, comprendre le fonctionnement des modèles pour éviter d’en être trop dépendants et écarter toute mauvaise interprétation des données qui pourraient avoir de fâcheuses conséquences sur les décisions de soin.
- Les informations recueillies sur la base des données de l’Intelligence artificielle « doivent être fortement pondérées par ce que les médecins savent de leur propre expérience clinique ». L'aspect humain des soins aux patients doit toujours être pris en compte.
- L'orientation clinique fondée sur l'apprentissage par la machine introduit un tiers dans la relation médecin-patient, la transformant en une relation entre le patient et le système de soins de santé. Elle pourrait remettre en question la dynamique de la responsabilité dans la relation et la confidentialité.
« Nous devons être prudents en ce qui concerne les soins aux personnes en fonction des algorithmes qui nous montrent », a déclaré Danton Char, professeur adjoint d'anesthésiologie, de médecine péri-opératoire et de médecine de la douleur, qui effectue une recherche financée par le National Institutes of Health sur les implications éthiques et sociales des tests génétiques élargis chez les enfants gravement malades. « La seule chose que les gens peuvent faire que les machines ne peuvent pas faire, c'est mettre de côté nos idées et d’évaluer les situations de manière critique ». Il estime que « la société s’essouffle a essayer de trouver des réponses rapides », et que la prudence et la réflexion s’imposent dans la mise en œuvre des applications de l’Intelligence artificielle aux données de santé.
Sources: Medical Press, Patricia Hannon (15/03/2018)
Commentaires
Toute utilisation de machines ou robots à la place de l'homme peut devenir potentiellement dangereuse.
Imaginez un processus de fabrication d'aliments entièrement automatisé. L'injection volontaire de produits avariés ou nocifs ne sera jamais signalé par une machine ou un robot. Si des hommes participent au processus, on peut espérer que ces crimes seront signalés.
Imaginez aussi un appareillage de torture entièrement robotisé. Quel robot signalera-t-il le crime auquel on le force de participer ?
On a un cas similaire avec les armes de mort à distance, via un appareillage de télécommande entièrement robotisé. L'opérateur de l'appareillage est déconnecté des conséquences des meurtres commis. Il n'a même plus conscience que ce soit lui qui tue. Le rêve des criminels au pouvoir est sans doute qu'il n'y ait même plus d'opérateur humain de ces armes.
J'air peur que l'homme ne soit un grand naïf.
Les robots qu'il s'évertue à fabriquer pour produire plus et lui permettent de retrouver du temps pour ses passions, ses plaisirs, ses découvertes, ne le rendront pas heureux... J'en doute fort.
Nous n'aimons pas cette phrase de la Bible : "L'homme travaillera à la sueur de son front."
Il va prendre le risque de devenir paresseux, oisif, gros, malade, névrosé, sujet aux addictions, égocentrique.
Actuellement, déjà, on lui conseille pour sa santé, son équilibre nerveux et psychique, d'utiliser les escaliers plutôt que l'ascenseur. Le vélo plutôt que la voiture. De consommer des produits des "circuits courts" plutôt ceux arrivant par avions et camions. De revenir aux produits "maisons" et à l'étude del'équilibre nutritionnel pour tous. De construire en bois plutôt qu'en béton (ciment) fissurable après 50 ans. D'utiliser les chemins de fer plutôt que les autoroutes trop coûteuses, trop polluantes, trop à risques. D'utiliser le vent, le soleil, l'eau pour l'énergie.
Et voilà qu'on retrouve déjà un peu de temps, d'espace, pour nous ajuster au programme voulut par notre Dieu Créateur et à notre mesure, sans robot. Pour nos enfants, notre famille, l'action dans la cité, à l'Eglise. Voilà qu'on retrouve notre esprit pour louer le Seigneur et comme les moines du Moyen âge, pour travailler pour sa gloire. Les constructions de cette époque en disent long. Ils n'ont pas ménagé leur peine. Beaucoup d'entre-elles sont toujours opérationnelles, certes avec beaucoup de protection et de soin. Ils ont travaillé à la sueur de leur front mais sans robot... De plus, ils chantaient bien !
Et nous avons survécu puisque nous pouvons communiquer entre-nous. Que serons-nous dans 20 ans ?
@Aubelle
Ceux qui peuvent aimer cette phrase de la Bible, sont ceux qui n'aiment pas travailler. Or, le travail est la dignité de l'homme. La civilisation chrétienne a été développée à l'aide du réseau monastique et de sa devise « Ora et labora », « Prie et travaille ». Le chrétien doit d'abord prier Dieu pour pouvoir mieux ensuite travailler à sa vigne, qui est sa Création.
Ceux-là qui n'aiment pas travailler, aiment par contre faire travailler les autres à leur place et pour leur seul profit. Ils sont à la base de tous les esclavages, antiques ou modernes. Leurs robots sont des sortes de nouveaux esclaves. Ils leur permettent aussi de s'enrichir sans travailler.