article du 09/05/2018 Sur usbeketrica.com*
Le Tribunal pour les Générations Futures s'est penché sur une nouvelle question : « Big data, robots, intelligence artificielle la médecine de demain sera-t-elle toujours une science humaine ? ». C'était le 6 février, à l'occasion de la Conférence des présidents et directeurs du groupe MGEN. Le procureur du soir, Vincent Edin, s’y est attaqué à la présence des nouvelles technologies dans la médecine. Nous vous livrons ici la retranscription de son vibrant réquisitoire et publierons, quelques jours plus tard, la réponse tout aussi incisive d'Alexandre Kouchner, avocat de la défense.
Mesdames et messieurs les jurés, contrairement à ce que voudra faire croire mon confrère avocat, c’est un technophile qui se présente devant vous. Mais un technophile qui est, en même temps, technocritique. Je n’ai aucune nostalgie pour la médecine du début du XXe siècle, les anesthésies à l’alcool fort ou aux gaz de guerre ou les accouchements sans péridurale… Non, j’aime ce que la modernité nous amène comme progrès.
Récemment, j’ai eu la chance d’aller à l’inauguration du CHU de Reims avec des installations flambants neuves. Rencontrer des chirurgiens en néo natalité, une discipline qui n’existait pas il y a deux générations car les enfants prématurés mouraient systématiquement. De même que les personnes lourdement handicapées ne vieillissaient pas et que nos anciens ne vieillissaient pas, emportés trop tôt par des maladies fulgurantes.
Le progrès au service de l'humain
Alors oui, vive la science, vive la technologie et vive le progrès ! Mais le progrès au service de l’humain, comme lorsqu’on parlait du progressisme au XIXe, une idéologie du bien commun. Le néo progressisme actuel c’est la planche de salut ultime d’un capitalisme financiarisé à outrance et déshumanisé qui veut réduire l’humanité à des chiffres pour faire triompher les meilleurs d’entre nous. Si nous n’y prenons pas garde, si nous nous laissons régenter par ce progrès là, c’est l’essence même de l’humanité qui est en péril.
« Vouloir éliminer le risque, le risque zéro, anticiper sur tout, c’est nier ce qui fait le genre humain »
Car les progressistes actuels sont mus par une logique assurantielle à tous crins, avec la croyance infantile qu’on peut araser tous les risques, quand les mutualistes savent que les risques constituent l’essence de la vie et que la seule question qui vaille est la juste manière d’en répartir la charge au sein de la société. Vouloir éliminer le risque, le risque zéro, anticiper sur tout, c’est nier ce qui fait le genre humain, c’est nous mener tout droit vers une dystopie façon Black Mirror.
Souvenons-nous de notre grand philosophe et logicien Canguilhem qui écrivait « la raison est régulière comme un comptable, mais la vie est anarchique comme un artiste ! ». Nier cette vérité éternelle est aller au devant de grandes désillusions. Notre société est phobique du risque, mais le risque et l’accident font partie de la vie.
Tous les médecins avec qui j’ai parlé m’ont expliqué de ce que la dataisation de la médecine avait compliqué les relations avec leurs patients. Quand vous recevez une personne atteinte de cancer et que vous lui dites qu’il a 90 % de chances de survie et qu’il décède, sa famille aura envie de vous poursuivre en justice. Pourtant, vous n’avez pas menti, 90 % de chances de survie implique bien évidemment 10 % de possibilités de décès et la réalité c’est qu’une batterie d’indicateurs et d’outils ne permettent pas de savoir qui fera quoi face à la maladie.
« Silence, on assassine mais au nom du progrès ! »
Le drame c’est que certains médecins ne s’opposent pas à cette vogue actuelle car elle les protège. Si vous pouvez poursuivre le chirurgien qui a raté votre rhinoplastie, il est plus compliqué d’attaquer un objet dénué de raison juridique comme un robot. C’est la déresponsabilisation à l’œuvre exposée sobrement par Nathalie Nevejans (témoin entendu lors de l'audience, auteure du Traité de droit et d'éthique de la robotique civile, NDE)… Tout est déresponsabilisation et euphémisation des drames : comment ne pas tiquer quand on entend que les robots tuent, aux US, mais que nous préférons le taire pour ne pas freiner la croissance des robots en Europe ? Silence, on assassine mais au nom du progrès !
Combattre la déshumanisation de la médecine
Les industriels ne sont pas les seuls coupables. Il y a des médecins complices de la déshumanisation, j’ai envie de leur dire : souvenez vous du jour de votre diplomation, quand vous avez juré de respecter le serment d’Hippocrate qui contient notamment deux passages que vous bafouez.
Publication byzantine du Xlle siècle du serment d'Hippocrate jugé comme un texte fondateur de la déontologie en médecine / Wikipédia
D’abord, « quoi que je voie ou entende dans la société pendant, ou même hors de l'exercice de ma profession, je tairai ce qui n'a jamais besoin d'être divulgué, regardant la discrétion comme un devoir en pareil cas ». Il est des vérités que le médecin garde pour lui pour accompagner le malade, pour protéger les proches. Tout le monde sait bien que toute vérité n’est pas bonne à dire et qu’elle relève de la volonté supérieure de chacun. Au nom de quoi s’infliger une transparence absolue et totalitaire ? Au nom de rien, rompons avec cette folie tant qu’il est temps.
« La médecine s’est toujours développée grâce à l’esprit critique et en remettant en cause les dogmes religieux »
Un autre passage du serment devrait secouer les médecins : « Je dirigerai le régime des malades à leur avantage, suivant mes forces et mon jugement ». Suivant mon jugement d’homme, pas de la décision impérieuse et irrémédiable d’une machine que l’on suivrait comme d’autres suivent Dieu. La médecine s’est toujours développée grâce à l’esprit critique et en remettant en cause les dogmes religieux, qui interdisaient la dissection des cadavres ou le dons d’organes. Nous nous serions libérés de dogmes séculaires pour nous emprisonner nous mêmes dans un nouveau dogme au motif spécieux qu’il serait plus bankable ?
Dans le film Bienvenue à Gattaca (Andrew Niccol, 1997), les personnes ayant un capital génétique fragile ne peuvent pas occuper de postes importants par peur de tomber malade.
Il faut refuser cela et le refuser urgemment car ce dogme porte en lui les fruits d’eugénisme massif. En effet, à quoi bon continuer à soigner quelqu’un que l’on sait condamné sur la foi d’algorithmes ? A quoi bon permettre à des jeunes de faire de longues études, onéreuses pour la collectivité, si on vous dit qu’il sera atteint par un mal incurable quelques années plus tard ? Pourquoi une banque vous accorderait un prêt sur 20 ans quand elle voit en un clic une maladie invalidante vous frapper dans dix ans ? Humain, ce monde ? En rien. Et nous voudrions nous inoculer sciemment ce poison ? Fou que nous sommes !
Alors, dans quelques instants, maître Koucher va essayer de faire vibrer la corde lacrymale en chacun de vous en parlant de la sombre actualité, de notre crise des EPHAD. Si une société s’évalue à la manière dont elle traite ses anciens, que valons nous nous Français ? Et vous avez entendu tous nos témoins, les robots vont venir s’occuper de nos anciens et ils seront moins invasifs que les soignants… Alors, bien sûr, ils pourraient aussi leur casser un bras ou un fémur, mais ça sont des dégâts collatéraux…
« On laisse un système se dégrader et on voudrait mettre de la technologie dessus pour ne pas investir dans l’humain »
On prend le problème à l’envers : on laisse un système se dégrader et on voudrait mettre de la technologie dessus pour ne pas investir dans l’humain. Cautère 2.0 sur jambe de bois, c’est du solutionnisme inepte : nos maisons de retraite souffrent d’un manque d’humanité et il n’existe aucune application, aucun algorithme, aucune machine, qui puisse combler ce manque. Sic transit exit machina et ecce homo, bordel !
Pensant aux EHPAD comme aux déserts médicaux, je me dirais qu’on pourrait détourner le titre du procès : coupes budgétaires, sous effectifs, formation des médecins, la médecine est-elle encore une science humaine ? La technologie n’est pas seule responsable de la déshumanisation, certes, mais elle ne peut en rien améliorer la situation, au contraire elle peut accélérer la chute…
Le dataïsme, menace pour les générations futures
Mesdames et messieurs les jurés, puisque nous jugeons ce soir non pas au nom de 2018, mais au nom des générations futures, prenons un peu recul. Il est des phrases si puissantes qu’elles traversent les siècles sans prendre une ride, contrairement à moi… Ainsi de l’inusable apophtegme de François Rabelais : « Science sans conscience n’est que ruine de l’âme ».
« La médecine a toujours avancé grâce à une parfaite maîtrise humaine du progrès technique et technologique »
Depuis le moyen âge, pas une discipline qui n’ait autant incarné le progrès que la médecine, depuis Ambroise Paré jusqu’à Pasteur et Françoise Barré Sinoussi. La médecine a toujours avancé grâce à une parfaite maîtrise humaine du progrès technique et technologique. Ce qui nous menace aujourd’hui, ça n’est pas l’exclusion des médecins hors du bloc opératoire par les robots.
Ambroise Paré, un des pères de la médecine moderne, représenté par le peintre James Bertrand (1923 - 1887) / (cc) Wikipédia
Non, c’est bien plus insidieux, ce qu’on nous propose et ce qui nous menace, c’est une nouvelle religion. Celle que l’historien Yuval Noah Harari appelle le dataisme, la foi aveugle dans les datas, les algorithmes et la supériorité absolue des machines ; exit l’esprit critique. Un hôtel où se rendre, un vêtement à acheter, une décision commerciale, ou un itinéraire à emprunter à prendre sur la foi d’algorithmes et autres recommandations automatisées qui prétendent nous connaître mieux que nous même…
« L’algorithme dira qui il faut choisir de soigner ou pas au nom de critères prétendument « objectifs ». C’est littéralement inhumain »
Et demain, donc, non content de miraculeusement bouger le scalpel ou le bistouri, le big data voudrait ôter au médecin la possibilité de livrer son diagnostic. L’algorithme dira qui il faut choisir de soigner ou pas au nom de critères prétendument « objectifs ». C’est littéralement inhumain.
Il est des choix inhumains, incarnés au mieux par le final du grand roman de William Styron, le choix de Sophie. Dans cette œuvre, l’héroïne arrive à Auschwitz et le médecin nazi lui demande de choisir entre ses deux enfants, lequel elle veut sauver et lequel elle choisit, sciemment, d’envoyer dans les camps de la mort. C’est infâme et ça ne trouve son explication que dans la formule de Primo Levi à propos d’Auschwitz, « l’endroit où le pourquoi n’existe pas ».
Extrait du film Les choix de Sophie (Alan J. Pakula, 1982) avec Meryl Streep.
Les machines ne comprennent pas la notion de pourquoi, elles exécutent. Elles n’ont ni morale, ni surmoi, ni éthique, ni compassion. Elles regardent des cas, des individus, des maladies et plus le commun qui dépasse tout. Pour reprendre les mots de Paul Ricoeur : « La maladie est privé, mais la santé est publique » et c’est pour elle que nous ne devons pas abdiquer et nous battre.
Mesdames et messieurs les jurés pour que la médecine de demain reste une science humaine, pour que jamais aucun malade ne soit réduit à des données médicales, je vous conjure de voter NON ce soir et ainsi de mettre un coup d’arrêt à l’inhumanité en marche à l’heure actuelle.
https://usbeketrica.com/article/science-sans-conscience-n-est-que-ruine-de-l-ame