Ethique

Aujourd’hui, l’infirmière est subordonnée au docteur. Demain, le docteur sera subordonné au système expert. Il y a peu de chances que le pouvoir médical reste dans les mains des médecins. Demain, le pouvoir médical sera dans les mains des GAFAs (Google Apple Facebook Amazon).

L’éthique est incluse dans les algorithmes.

L’éthique médicale est morte : à partir du moment où c’est le système expert, qui analyse les ving mille milliards d’informations d’une tumeur, ou demain les milliards d’information que les lentilles Google/Novartis déverseront sur un serveur via une connexion bluetooth, la décision n’est plus prise par un cerveau biologique, mais pas le serveur, même si le médecin signera à la fin l’ordonnance.

Et donc, les normes éthiques ne sont plus celles dans le cerveau humain, mais ce sont les normes éthiques dans la conception du programme. L’éthique sera demain dans l’algorithme, et plus dans le cerveau du docteur. L’éthique change de mains. Le porteur des normes éthiques n’est plus le même.

Ethiques

Quand vous êtes dans un Airbus A380, l’arbitrage entre la consommation de carburant, le fait de survoler l’Iraq ou non, l’altitude, la vitesse, la sécurité des passagers … qui fait cet arbitrage ? Vous pensez que c’est le pilote ? Vous pensez que le pilote vérifie les mille milliards d’information que sort l’ordinateur de bord chaque seconde ? Non ! Cet arbitrage implicite se trouve dans l’ordinateur.

Demain, les normes éthiques seront de la même façon codées implicitement dans les systèmes experts. C’est la raison pour laquelle demain, on n’accréditera plus des hommes et des structures. On accréditera des logiciels.