Éthique du numérique et de l'IA en santé

Éthique et Santé à l'Ère du Numérique et de l'Intelligence Artificielle

La santé numérique (e-santé) et l'Intelligence Artificielle (IA) transforment profondément la relation de soins, soulevant de nouvelles questions éthiques.

I. Le Numérique dans la Relation de Soins : L'e-santé

L'e-santé se définit comme l'ensemble des technologies de la communication utilisées par et pour les patients, pour capturer ou faire circuler des informations médicales.

A. Les 5 Composantes Clés de l'e-santé

1. Immédiateté de l'information :
   • Accès instantané aux diagnostics et pronostics via Internet.
   • Exemple : recherche d'un diagnostic pour une "tâche brune foncée" menant à "mélanome".
   • Impact : peut générer de l'anxiété et des problèmes éthiques inédits.
   • Sensibilisation du soignant aux anxiétés technologiques des patients nécessaire.
2. Émergence de communautés de patients :
   • Les patients peuvent se solidariser pour peser sur les décisions et les institutions.
   • Exemple : Plateformes comme Carenity (500 000 membres) facilitent l'échange d'informations et l'entraide pour les pathologies chroniques.
3. Puissance et réactivité accrues des associations de patients :
   • Viralité de l'information : le numérique permet une diffusion rapide des alertes (ex: affaire Renaloo).
   • Conséquence : démultiplication de leur pouvoir d'action.
4. Favorisation du tourisme médical international :
   • La dématérialisation de l'information permet d'accéder à des services (ex: tests de paternité) interdits ou réglementés dans le pays de résidence.
   • Exemple : "France Paternité" est un faux-semblant, car ces tests sont interdits en France sans décision judiciaire. Les individus cherchent alors des options à l'étranger.
5. Valorisation du savoir profane :
   • Patients évaluent les médicaments et les médecins (similaire au Nutri-Score).
   • Gérald Bronner parle de dérégulation du marché de l'information et de "démocratisme" :
     • Nivellement entre savoir scientifique et savoir profane (témoignage d'un patient équivalent à une étude scientifique).
     • Érosion des frontières épistémiques : toutes les connaissances semblent se valoir, même les opinions.
   • L'Académie Nationale de Médecine alerte sur cette montée du savoir profane, soulignant le manque de fiabilité et le risque de bulles cognitives (biais de confirmation).
   • Formation à l'esprit critique dès le collège est cruciale.

B. Les Biais Cognitifs et le Complotisme

Les bulles cognitives favorisent le complotisme via trois biais principaux :

• Biais de conjonction : Confusion entre cause et effet (ex: entreprises s'enrichissant pendant la COVID-19 interprétées comme instigatrices de la pandémie).
• Biais d'intentionnalité : Perception d'une intention malveillante (ex: industries pharmaceutiques voulant juste faire de l'argent).
• Biais de sélection (effet bulle cognitive) : Le cerveau ne retient que les informations qui confirment les croyances préexistantes.

Transparence inédite : Le numérique (ex: loi 2013) permet une meilleure visibilité des liens d'intérêts entre professionnels de santé et laboratoires, mais les complotistes l'occultent. Solution de compromis : Accompagner les patients dans leur parcours de navigation, les conseiller sur des sites fiables (ex: site "transparence santé").

C. Le Numérique dans la Clinique

La clinique, basée sur le diagnostic, le pronostic et la thérapeutique, est transformée.

1. Amélioration de l'interrogatoire clinique :
   • Utilisation de robots pour les enfants victimes de maltraitance (meilleure qualité d'information).
   • La technologie augmente la précision sans supplanter l'humain (ex: stéthoscope électronique x24).
   • L'IA peut réduire les faux positifs (ex: dépistage du cancer du sein), respectant le principe de non-malfaisance ("d'abord ne pas nuire").
2. Effets insidieux et déshumanisation :
   • Risque de substitution de l'humain par la technologie, même en fin de vie où l'empathie et la musique sont plus appropriées que des machines complexes.
   • Télémédecine : Avantages (accès aux soins pour personnes à mobilité réduite) mais risques pour la confidentialité (tiers présents/écoutant). Le médecin doit redoubler de vigilance.

Le visage et la relation charnelle restent au cœur de la clinique et de l'éthique (ex: Cissy Sanders et les patients en fin de vie). La clinique est la butée identitaire de la médecine.

D. Les Principes Éthiques Fondamentaux

Les bases posées par Hippocrate sont toujours pertinentes, complétées à l'ère moderne :

• Principe de non-malfaisance ("ne pas faire de mal").
• Principe de bienfaisance ("faire du bien").
• Principe d'autonomie.
• Principe de justice.

Ces quatre principes guident les attentes morales des patients face à la santé numérique.

II. L'Intelligence Artificielle en Médecine

A. Définition et Évolution de l'IA

L'IA a connu deux phases :

1. IA ancienne (années 1950-1960) :
   • Programme restituant des solutions déjà mémorisées (ex: chatbot standard).
   • Exemple : Eliza de Weizenbaum (1966), psychologue rogerien simulant l'empathie.
   • Test de Turing : une IA le franchit si un humain croit interagir avec un autre humain.
2. Nouvelle IA (Deep learning) :
   • Accède à des bases de données beaucoup plus vastes et peut générer des solutions inédites.

B. IA vs. Intelligence Humaine

Intelligence humaine : Capacité à faire des liens entre des idées ou des phénomènes. Les génies voient des relations là où personne n'en voit. L'IA répond partiellement à cette définition en établissant des corrélations entre des données massives (big data). Cependant, l'IA manque de caractéristiques essentielles de l'intelligence humaine :

1. Pas de conscience :
   • L'IA ne comprend pas ce qu'elle fait, ce qui peut mener à des corrélations hasardeuses (ex: voter écologiste et manger du chocolat).
2. Pas de sens commun :
   • L'IA n'a pas de vision globale et contextuelle.
   • Elle est une IA "faible", spécialisée dans un domaine, et ne possède pas le bon sens humain (Descartes : "Le bon sens est la chose du monde la mieux partagée").
   • L'intelligence humaine est "encastrée" dans un corps, influencée par mémoire, imagination, émotions.
3. Ne ressent pas d'émotions :
   • Les émotions rendent l'humain sensible aux valeurs (non-malfaisance, bienfaisance). L'IA simule ou identifie les émotions, mais ne les ressent pas.
   • Exemple : Seul un neurologue humain peut décider comment annoncer un diagnostic d'Alzheimer en fonction du contexte émotionnel.

C. Les 3 Caractéristiques irréductibles de l'Intelligence Humaine

1. Multidimensionnelle :
   • Il existe de multiples formes d'intelligence (artistique, sportive, mathématique, sociale).
   • L'IA est plus à l'aise dans la rationalité (ex: un robot ne peut pas être un clown thérapeute capable de s'adapter à la singularité d'un enfant).
2. Créatrice :
   • Capacité à faire surgir du nouveau, de l'inédit (Kant). L'IA se base sur des données capitalisées.
3. Imitatrice :
   • L'intelligence humaine a créé l'IA en imitant la nature pour décupler ses pouvoirs (ex: marteau imite le poing, hameçon imite le doigt courbé, robot chirurgical imite la main).
   • L'IA elle-même est une imitation de l'intelligence humaine pour augmenter sa puissance cognitive.

D. Nouveaux Dilemmes Éthiques liés à l'IA

1. Voitures autonomes :
   • Dilemme moral entre écraser des piétons ou tuer les occupants du véhicule.
   • La responsabilité incombe au concepteur, pas à l'objet.
   • La "machine morale" peut ajuster ses réponses aux sensibilités culturelles (ex: valeur d'un enfant vs. une personne âgée varie selon les cultures).
2. Décision médicale et IA :
   • En France, aucune décision produisant des effets juridiques ne peut être prise sur le seul fondement d'un traitement automatisé (Loi du 6 janvier 1978, Art. 10).
   • Le principe de justice égalitaire exige d'équiper tous les hôpitaux d'outils de détection précoce.
   • Le principe de justice distributive pose des questions éthiques (ex: l'IA pronostiquant le taux de rejet d'une greffe pourrait dire qu'un patient "n'est pas rentable").
   • La responsabilité finale appartient toujours au médecin ou au juge, qui doit agir en conscience.
3. Rôle de l'IA dans la clinique :
   • L'Ordre des Médecins insiste sur la place de l'IA pour le diagnostic, mais le pronostic et la décision thérapeutique restent du ressort de l'humain, de l'empathie et de l'intelligence contextuelle.

   • « Un patient n'est pas constitué que de symptômes, de taux, de statistiques. Il est un tout que le médecin examine dans sa globalité. »

III. Perceptions du Rapport entre Intelligence Humaine et IA

Trois écoles de pensée coexistent :

A. Perception Techno-Prophétique (Rivalité)

Leaders d'opinion (techno-prophètes) : utilisent leur rhétorique et notoriété pour influencer.

1. Prophètes "alarmistes" (libéraux) :
   • Annoncent une IA qui rendra le médecin subordonné à l'algorithme (Laurent Alexandre : "la mort des médecins ?").
   • Prévoient une dichotomie entre "hyper-intelligents" (maîtrisant l'IA) et "hypo-intelligents" (décrochés du numérique).
   • S'appuient sur des réalisations actuelles (ex: robots soignants en EHPAD pour réduire les coûts).
   • Exhortent à investir massivement dans l'IA pour éviter de devenir des "colonies numériques" (silver economy).
2. Prophètes "anti-libéraux" (catastrophistes) :
   • Dénoncent l'américanisation et l'assujettissement de l'homme aux géants de la Silicon Valley.

B. Perception Techno-Progressiste (Harmonie & Complémentarité)

Voient l'IA comme un complément à l'intelligence humaine.

1. Enthousiastes :
   • Fascinés par les prouesses et croient au progrès et à l'amélioration de la qualité de vie (ex: Michel Serres compare l'IA à l'imprimerie).
   • L'Estonie est un exemple de numérisation généralisée ayant mené à la prospérité.
   • En santé : louent les potentialités diagnostiques de l'IA (dépistage rétinopathie), le clone numérique pour la formation des chirurgiens.
   • L'IA libérera les médecins des tâches diagnostiques, leur permettant de développer compétences relationnelles et empathiques.
2. Modérés ("rassuristes") :
   • Soulignent que l'IA n'existe pas sans débranchement et que l'humain aura toujours le pouvoir.
   • L'IA ne sera jamais une intelligence généraliste capable de prendre le pouvoir.

L'esprit se réalise en s'objectivant : pour Hegel, l'histoire humaine est un progrès continu de l'esprit s'incarnant dans des réalisations de plus en plus complexes (des cathédrales aux microsystèmes IA).

C. Perception Techno-Sceptique (Dangers)

Sceptiques quant aux solutions, ils soulignent les risques sans voir nécessairement d'issue.

1. Alarmistes :
   • Interrogent l'intrusion des dispositifs de surveillance intelligents (sécurité vs liberté et vie privée).
   • Remettent en question la promesse de plus de temps pour le patient, évoquant l'injonction à "accélérer" (Hartmut Rosa, Paul Virilio).
   • La technique modifie notre rapport au monde : l'homme devient un "homo connecticus" modelé par la machine ("nous fabriquons ces calculateurs, mais en retour ils nous construisent").
2. Catastrophistes :
   • La technique a dépassé notre contrôle (Heidegger : "Partout s'installe la frénésie de la technique").
   • La technique est un processus incontrôlable, non un progrès.
   • Conclusion presque nihiliste : "seul un dieu pourrait encore nous sauver".

Conclusion : Bonnes Pratiques Éthiques

Il est crucial de mettre en balance les risques réels et potentiels liés à l'action avec ceux liés à l'inaction, selon le principe de précaution. Risques de déshumanisation (ex: amazonisation du monde, isolement social) sont réels. Cependant, se priver des avantages de l'IA (dépistage du cancer, prévention de la cécité) serait négliger des progrès considérables. Il faut distinguer ce qui est possible de ce qui est souhaitable (Weizenbaum, créateur d'Eliza). Les 4 principes éthiques fondamentaux se déclinent en pratiques spécifiques à l'ère numérique :

• Transparence : Droit de savoir quand l'IA est utilisée et comment les données sont exploitées (consentement ou non-opposition).
• Garantie humaine : Aucune décision ne doit être prise sans validation humaine (supervision).
• Solidarité (justice) : Lutter contre l'"illectronisme" et la fracture numérique pour éviter une société à deux vitesses.
• Précaution (non-malfaisance) : Évaluer les risques potentiels de déshumanisation par rapport aux bénéfices de l'IA.

Refuser certaines applications de l'IA (ex: IA pour communiquer avec les défunts, robots en EHPAD) ne signifie pas rejeter l'IA en principe, mais privilégier les valeurs d'authenticité et d'humanisation.