Par : Souad Jamaï
Faut-il cohabiter avec l’intelligence artificielle ?
Que penseraient nos ancêtres médecins, s’ils revenaient sur terre pour exercer ? Ils auraient certainement matière à ergoter, surtout en découvrant les algorithmes décisionnels ! La phase de perplexité passée, ils tenteraient surement de comprendre pourquoi et de quelle façon le médecin moderne s’est laissé envahir par ces arbres aux feuillages si complexes…
Ils diagnostiqueraient une mémoire déclinante de l’homme moderne, ou mettraient en cause l’immensité des connaissances à intégrer. Ils pourraient également émettre l’hypothèse que le trouble serait dû à l’inaptitude à classer les nombreux tiroirs remplis de symptômes glanés tout le long de nos années d’études. En vingt ans, nous avons été submergés par ces algorithmes, cette intelligence que nous appelons artificielle qui prétend rendre la médecine prédictive, et ne laisser plus aucun espace à notre propre jugement, à nos réelles aptitudes décisionnelles.
Il arrive parfois que, mus par le bon sens ou par notre expérience, nous décidions d’emprunter d’autres chemins thérapeutiques, laissant ainsi notre libre arbitre prendre le dessus, assumant nos décisions et notre responsabilité pour le bien du patient. Quand pèse sur nous l’obligation de prescrire certains produits, sous peine de réprimandes, comment ne pas se sentir fautif en y dérogeant? Il est évident que le bon sens et le choix du médecin, en son âme et conscience constituent une valeur ajoutée inestimable, que l’investissement intellectuel non biaisée par une quelconque influence, est à privilégier. C’est cela la médecine humaine. Avoir le courage de ses décisions et le sens des responsabilités pour adapter de façon précise à chaque individu le traitement qui lui correspond de façon spécifique. Et ceci n’est pas substituable et ne le sera jamais, du moins j’ose l’espérer pour le bien de tous nos patients…Sortir des rangs par bon sens en faisant jouer sa sensibilité professionnelle, ses connaissances et son expérience, est la meilleure garantie pour bien soigner. Nous sommes à l’affut de toutes nouveautés médicales, toute avancée technologique dans le domaine du diagnostic médical. Mais même en étant moderniste, en se dotant de tout ce qui peut affiner un diagnostic, nous gardons notre libre arbitre et nous veillons à ne pas être sous l’influence d’un biopouvoir quel qu’il soit. Car si l’objectif d’un biopouvoir était de manipuler nos décisions, de quels instruments userait-il ? Ne serait-ce pas justement en nous imposant des chemins à suivre en mettant petit à petit nos cerveaux en veilleuse ? À chaque nouvelle proposition de molécule ou d’algorithme, posons-nous les bonnes questions. Une manipulation préméditée et orchestrée peut parfois être si insidieuse…
Le médecin est souvent confronté, dans sa vie professionnelle, à des situations qui mettent en jeu cette liberté. Certains sujets nous incitent à la réflexion, même s’ils sont régis par des lois (L’avortement, l’euthanasie, la peine de mort), ils touchent le médecin et l’impliquent parfois à des degrés différents, mais ils nous incitent tous, un jour ou l’autre, à nous poser des questions. Si chacun a un avis bien tranché sur ces sujets qui mettent en balance la santé ou la vie d’un individu, l’avis du médecin n’est presque jamais pris en compte puisque régulés par des lois. Dans ce domaine, bien que la pensée soit la libre, il n’y a pas de libre action. Par contre, le médecin use de son libre arbitre dans la médecine libérale où l’avis du patient est écouté et les décisions thérapeutiques sont prises en concertation avec lui.
L’intelligence artificielle a des atouts indéniables, mais lorsqu’elle est utilisée pour manipuler nos décisions et qu’elle nous empêche par ses organigrammes décisionnels rigides d’inclure les spécificités du patients ou la concertation avec le patient, il faut apprendre à l’utiliser avec parcimonie et avec intelligence, justement !
L’évolution de la liberté de pensée et du libre arbitre est très visible dans l’exercice médical, cette liberté s’est modifiée et tend à disparaitre ces derniers années, nous faisant entrevoir les risques liés à ce changement. L’un des exemples, bien visible concerne la liberté de prescription des médicaments, nous ne sommes pas encore obligé, mais nous sommes orientés pour prescrire certaines thérapeutiques. Ceci est encore plus flagrant depuis l’avènement de l’intelligence artificielle (IA).
Voici une définition de l’IA qui me laisse dubitative : c’est une branche de l’informatique visant à créer des logiciels qui pourraient remplacer dans le domaine de la santé l’intelligence humaine. REMPLACER L’INTELLIGENCE HUMAINE !
Tout est dit. Et qu’advient-il d’un outil que l’on n’utilise plus ? Il dépérit puis disparait.
Il faut néanmoins reconnaitre les points positifs de l’IA : Gain de temps, aide au diagnostic, aide à la décision clinique, réduction des erreurs liées à la fatigue humaine, réduction des couts de soins.
Certes, on dépasse les capacités humaines, mais qu’en est-il de tout ce qui définit l’humain, qu’en sera-t-il de nos libertés individuelles face à la prise en charge médicale d’un patient. Il en résultera une perte de la réflexion, de la prise de décision, de responsabilité, de la motivation, des liens humains…
En ce qui concerne la perte de la réflexions, il faut savoir qu’en médecine, deux cas ayant la même pathologie ne sont jamais identiques lorsque l’on tient compte du ressenti du patient, de son contexte social et psychologique.
Le cerveau humain a intégré, dès la naissance, une certaine conception du monde en général que l’IA, dans l’état actuel de son développement, ne pourra jamais atteindre. Le cerveau est capable de simuler mentalement des actions et d’en prédire les conséquences. De ce point de vue, le cerveau possède des mécanismes anticipateurs qui permettent de choisir et de décider rapidement “intuitivement” de l’action
Le cerveau a une capacité de procéder à la création d’un monde qui peut même être imaginaire. Il s’agit là d’une des facultés extraordinaires du cerveau. Cette capacité de composer et de recomposer des informations : « penser c’est relier », disait Kant.
Cette mise en lien des informations, des souvenirs, des procédures, est une des propriétés fondamentales du cerveau. Elle permet de prendre des décisions en intégrant une multitude de paramètres, des informations sur le monde, l’intégration de la valeur (la pondération de l’intérêt à agir), la mémoire, l’intégration des émotions. La mémoire, mais aussi les émotions, sont en ce sens de puissants outils de prédiction et autorisent une capacité d’anticipation de l’avenir.
Les neurosciences et la psychologie cognitive démontrent comment l’empathie repose sur la capacité d’un individu à adopter le point de vue des autres tout en restant soi-même. La fonction de l’empathie est essentielle dans la prise de décision. Comprendre les intentions, les émotions de l’autre est une propriété essentielle dans la prise de décision, que l’IA n’est, en tous les cas, pour l’instant pas encore totalement en mesure de reproduire.
C’est pour toutes ces raisons qu’il faut maintenir et privilégier une relation humaine médecin-patient de qualité et un dialogue continu qui tient compte de l’avis et des réticences du patient et de l’expérience et de l’humanisme du médecin.
Alors, et vous ? Laisserez-vous une machine vous prescrire des médicaments ?
Dans la prochaine chronique, je vous raconterai comment et surtout pourquoi le roman « Le serment du dernier messager » est né, quels sont les évènements scientifiques réels qui ont conduit à son écriture.
Souad Jamaï
Cardiologue et écrivaine
Je suis curieuse de connaître le pays où l IA est utilisée pour émettre des diagnostics !
Je pense que l IA ne peut être qu’un outil parmi toute la panoplie d’outils à la disposition du praticien qui reste seul maître abord pour toute décision.
L’IA doit être au service du médecin et ne peut en aucun cas le remplacer.
Tout à fait d’accord…
De nombreuses Start up ( aux États Unis et même au Maroc ) ont créé des cabines médicales connectées. Ceci dans l’objectif de les vendre à des pays qui aimeraient les tester dans les déserts médicaux….Il est évident que cela mènera à des erreurs et des dérapages, sans compter le risque en rapport avec la déshumanisation.
Concrètement, les Émirats veulent introduire l’IA dans plusieurs secteurs névralgiques, dont les transports, la santé, l’exploration spatiale, les énergies renouvelables, l’eau, l’éducation et l’environnement. ils ont même un ministre de IE
Je vous suggère cet article : https://maghreb-observateur.com/?p=19058