« L’INTELLIGENCE ARTIFICIELLE NOUS DESSAISIT DE NOTRE FACULTÉ DE JUGEMENT »
synthèse de presse bioéthique de genethique.org :
Eric Sadin, écrivain et philosophe, est spécialiste du numérique et de son impact sur nos vies et nos sociétés. Dans son dernier essai, L’Intelligence artificielle ou l’enjeu du siècle[1], il « appelle à une révolte de la société civile contre l’inféodation de la technique et de la science aux opportunités économiques considérables que promet l’intelligence artificielle ».
« Nous vivons un changement de statut des technologies numériques : elles ne sont plus seulement destinées à nous permettre de manipuler de l’information à diverses fins, mais à nous divulguer la réalité des phénomènes au-delà des apparences », explique Eric Sadin. Par conséquent, « la technique se voit attribuer des prérogatives inédites : éclairer de ses lumières le cours de notre existence ». Ainsi, les analyses produites par les systèmes d’intelligence artificielle ne se contentent plus de « produire une exactitude supposée », mais elles « recouvrent une valeur de vérité » qui impliquent de s’engager dans le sens de leurs conclusions, de s’y conformer. Par exemple, une application de coaching sportif va inciter l’utilisateur à acheter tel complément alimentaire, ou un robot numérique va sélectionner tel candidat à recruter. De façon plus coercitive encore, des systèmes dictent à des personnes les gestes à exécuter dans le champ du travail. Ce « tournant injonctif de la technique » impacte le libre exercice de notre faculté de jugement, qui « se trouve remplacée par des protocoles destinés à orienter et à encadrer nos actes ». On est ici loin de la « complémentarité homme-machine » largement invoquée.
Dans le domaine de la santé, le philosophe est tout aussi alarmant : si « on ne cesse de louer les avantages que la médecine est supposée tirer de l’intelligence artificielle », « on n’évoque jamais le fait que ces systèmes sont déjà dotés de la faculté de prescription, appelée à entrainer l’achat de mots-clés par les groupes pharmaceutiques ». Ces systèmes préparent la fin de la consultation « au profit d’abonnements qui, via des capteurs sur les corps, promettent d’interpréter les états et de recommander des produits de bien-être ou des traitements thérapeutiques ». Il faut faire état des « effets collatéraux induits par l’intégration de systèmes d’intelligence artificielle dans la médecine »,demande Eric Sadin.
Il appelle également à un débat « à la hauteur des enjeux, ce qui n’est pas le cas aujourd’hui » sur ces sujets. Enjeu économique de taille, l’intelligence artificielle concentre de grands investissements. Le risque, « c’est l’imposition du primat de l’impératif économique sur toute autre considération ». Eric Sadin interroge : « Allons-nous accepter, au nom de la croissance, de voir s’instituer, par le fait de ces systèmes, un dessaisissement de notre faculté de jugement, une marchandisation intégrale de la vie ainsi qu’une extrême rationalisation de tous les secteurs de la société ? ».
Enfin, le philosophe se méfie des « pouvoirs de la régulation », « sans cesse invoqués comme susceptible de faire contrepoids aux évolutions technologique ». Car, dans notre régime d’ « ordolibéralisme », le rôle du législateur ne consiste plus à nous prémunir des dérives, mais à rédiger des lois « en vue de soutenir l’économie de la donnée, des plateformes et de l’intelligence artificielle ».En outre, « établir des règles en vue d’entraver la recherche » se révèlerait peine perdue estime-t-il, les chercheurs participant du mouvement « croissant de marchandisation intégrale de la vie et d’organisation automatisée à des fins d’optimisation de la société » imposé par le développement de l’IA. Il appelle donc chacun à « faire œuvre de politique », à sortir de l’ « apathie »actuelle face aux « évangélistes de l’automatisation du monde » pour « contredire les technodiscours fabriqués de toute pièce et colportés de partout par des experts patentés ». « Nous devrions manifester notre refus à l’égard de ces dispositifs lorsqu’ils bafouent notre intégrité et notre dignité. Contre cet assaut antihumaniste, faisons prévaloir une équation simple mais intangible : plus on compte nous dessaisir de notre pouvoir d’agir et plus il convient d’être agissant ».
[1] Eric Sadin, L'intelligence artificielle ou l'enjeu du siècle. Anatomie d'un antihumanisme radical (L'échappée, 2018).
Sources: Le Figaro, Eugénie Bastié (29/10/2018)