Longtemps cantonnée à l’imaginaire de la science-fiction, l’intelligence artificielle (IA) s’impose désormais comme une réalité incontournable de notre quotidien. Des moteurs de recherche aux assistants conversationnels, en passant par les systèmes de recommandation, ses applications se multiplient. Toutefois, c’est sans doute dans le domaine de la santé que les attentes sont les plus fortes — et les enjeux, les plus sensibles.

Le Conseil d’État soulignait d’ailleurs que le secteur de la santé est celui qui suscite « le plus d’espoir » parmi les champs d’application de l’IA. Ces espoirs sont à la mesure des transformations attendues : amélioration des diagnostics, personnalisation des traitements, accélération de la recherche médicale ou encore réduction des erreurs humaines.

En pratique, certaines applications sont déjà bien établies. En oncologie, par exemple, des systèmes d’aide à l’interprétation d’images médicales atteignent des niveaux de précision comparables à ceux de praticiens expérimentés. En chirurgie, les dispositifs robotisés permettent une précision accrue des gestes médicaux.

Un cadre européen fondé sur la confiance et la maîtrise des risques

Face à ces enjeux, le législateur européen a adopté une approche proactive avec le règlement sur l’intelligence artificielle (AI Act). L’objectif est clair : favoriser le développement d’une IA « digne de confiance », tout en garantissant un niveau élevé de protection de la santé, de la sécurité et des droits fondamentaux.

Contrairement aux premières régulations du numérique, centrées sur le soutien à l’innovation, l’AI Act repose sur une logique d’équilibre. L’Union européenne entend rester compétitive dans la course technologique mondiale, tout en préservant son modèle juridique fondé sur la protection de la personne.

Le texte adopte ainsi une approche par les risques. Les systèmes d’IA sont classés selon leur niveau de dangerosité :

  • Les systèmes à risque minimal ne sont soumis à aucune obligation spécifique ;
  • Les systèmes à risque limité (comme les IA conversationnelles ou les outils administratifs) doivent respecter des obligations de transparence ;
  • Les systèmes à haut risque, notamment dans le domaine médical, sont soumis à des exigences strictes ;
  • Enfin, certaines pratiques sont purement et simplement interdites.

Les usages interdits : protéger la dignité et les droits fondamentaux

L’AI Act prohibe certaines applications jugées incompatibles avec les valeurs fondamentales de l’Union. Sont notamment interdits :

  • Les systèmes manipulant le comportement humain de manière subliminale ;
  • Les dispositifs exploitant la vulnérabilité de certaines personnes (âge, handicap, situation économique) ;
  • Les mécanismes de notation sociale ;
  • Certaines formes d’identification biométrique ou de reconnaissance des émotions portant atteinte aux libertés individuelles.

Dans le domaine de la santé, ces interdictions prennent une importance particulière. Le patient, souvent en situation de fragilité, doit être protégé contre toute forme d’influence abusive ou de manipulation.

Les systèmes à haut risque : des obligations renforcées

Les applications médicales de l’IA relèvent, pour beaucoup, de la catégorie des systèmes à haut risque. Sont notamment concernés :

  • Les outils de diagnostic ;
  • Les systèmes d’interprétation de données médicales ;
  • Les dispositifs de télémédecine ;
  • Les outils d’allocation de ressources médicales.

Ces systèmes doivent satisfaire à des exigences strictes : qualité et représentativité des données, analyse des biais, traçabilité, documentation technique, gestion des risques et supervision humaine.

La question des données est centrale. Les données de santé étant des données sensibles, leur traitement est strictement encadré par le RGPD. Leur utilisation impose notamment des garanties élevées en matière de sécurité, de transparence et de finalité.

Des techniques comme l’apprentissage fédéré permettent d’entraîner des modèles sans centraliser les données, renforçant ainsi la confidentialité. Par ailleurs, la vigilance face aux biais algorithmiques est essentielle : un système entraîné sur des données non représentatives peut générer des discriminations ou des erreurs de diagnostic.

Le rôle central du médecin

Malgré ses performances, l’intelligence artificielle ne se substitue pas au médecin. Elle constitue un outil d’aide à la décision, et non un décideur autonome.

Le Conseil national de l’Ordre des médecins rappelle que la décision médicale doit rester partagée entre le praticien et le patient. Le médecin conserve son indépendance professionnelle et doit exercer un regard critique sur les recommandations issues des systèmes d’IA.

Cela implique également un effort de formation. Les établissements de santé doivent s’assurer que les professionnels maîtrisent ces outils, sous peine d’engager leur responsabilité.

Information et consentement du patient : une exigence renforcée

Le recours à l’intelligence artificielle en santé implique une obligation d’information renforcée. Le patient doit être informé de l’utilisation d’un dispositif algorithmique dans son diagnostic ou son traitement, ainsi que de ses bénéfices et limites.

La loi impose également le respect du consentement libre et éclairé du patient, qui peut refuser l’utilisation d’un tel dispositif.

Responsabilité : un équilibre à construire

L’introduction de l’IA en santé complexifie la question de la responsabilité. Plusieurs acteurs peuvent être impliqués :

  • Le concepteur du système ;
  • L’établissement de santé ;
  • Le professionnel utilisateur.

Le médecin demeure responsable de ses décisions. Une utilisation imprudente ou un défaut de vigilance face aux recommandations de l’IA peut engager sa responsabilité. À l’inverse, un défaut de conception du système peut engager celle du fournisseur.

À terme, l’enjeu sera de préciser la répartition des responsabilités entre ces différents acteurs, notamment en cas de dommage.

Conclusion

L’intelligence artificielle constitue une opportunité majeure pour le secteur de la santé. Toutefois, son développement doit s’accompagner d’un encadrement juridique rigoureux afin de garantir la protection des patients.

L’AI Act marque une étape décisive dans cette régulation, en instaurant un cadre fondé sur la gestion des risques et la confiance. L’avenir de l’IA en santé dépendra de la capacité des acteurs à concilier innovation technologique et exigences éthiques et juridiques.

Notre cabinet se tient à votre disposition pour vous accompagner sur l’ensemble des problématiques liées à l’intelligence artificielle et à la santé.