Responsabilité du fait des robots

Cela fait un petit moment que je n’ai plus rien posté ici, je vais donc en profiter pour vous faire partager un exercice que j’ai proposé à mes étudiants en TD de droit, 2ème année.

(En plus, comme ça, je serais forcé de me renouveler pour l’année prochaine ^^ ).

Le voici :


Une clinique a expérimenté trois robots aides-soignants. Les trois ont connu des incidents, et l’assurance vous contacte pour savoir qui de la clinique ou du fabricant elle doit assigner en justice.

1. Robot à programmation pré-établie

Le robot a été fourni « clés en main » par le fabricant.

En transportant un patient de son lit à la salle de bain, le robot s’est heurté au cadre de porte. Le patient est tombé au sol et a la jambe droite fracturée.

Le rapport d’expert indique :

La fonction iFranchirPorte() comporte une instruction « read » qui, exécutée sur une puce TSM-101 telle que celle équipant le robot en question, renvoie une valeur erronée.

Cette valeur erronée est la source du dysfonctionnement ayant entrainé le heurt du cadre de porte.

 2. Robot à capacité d’apprentissage par mimétisme

Le robot a connu une phase d’apprentissage des gestes, sous l’instruction d’un aide-soignant de la clinique, pendant une semaine.

En transportant un patient de son lit à la salle de bain, le robot s’est heurté au cadre de porte. Le patient est tombé au sol et a la jambe droite fracturée.

Le rapport d’expert indique :

Les enregistrements de la phase d’apprentissage indiquent que, même si l’aide-soignant a fait la démonstration adéquate des gestes, ceux-ci n’ont pu être enregistrés par le robot. L’aide-soignant n’a pas utilisé les bonnes commandes pour activer la phase d’apprentissage du robot.

3. Robot auto-apprenant

Le robot n’a pas besoin d’apprentissage spécifique, il est capable d’apprendre par lui-même simplement en observant. Il peut agir en autonomie, et peut prendre des décisions en fonction du référentiel qu’il s’est construit.

En passant devant la chambre d’un patient en phase terminale d’un cancer, le robot a pris l’initiative de le poignarder en plein cœur.

Le rapport d’expert indique :

Les tests effectués à réception indiquent que le robot n’avait, à ce moment, que la capacité de se déplacer et d’apprendre de nouveaux gestes et concepts. […] Le dump de la mémoire vive effectué après l’incident montre que le robot a analysé la situation du patient, prenant en compte la douleur ressentie, les chances de guérison et le cout des soins palliatifs. Il en a déduit que la meilleure action possible consistait à « terminer la vie » du patient.

 


Buts recherchés :

  • Faire mobiliser aux étudiants leurs connaissances (ici, les différents régimes de responsabilité), mais  pour une application inédite. Think out of the box.
  • Au travers des pseudo-rapports d’experts, faire comprendre aux étudiants qu’ils doivent être curieux sur le monde qui les entoure, et ne pas se cantonner à leur seul univers juridique (l’avenir sera transdisciplinaire ou ne sera pas).

Solutions :

Tout d’abord, j’insiste bien sur « solutions » au pluriel, car nous sommes dans du pur prospectif. Rien de juridiquement contraignant n’existe à l’heure actuelle, donc la balance peut pencher de n’importe quel coté. C’est un point que j’ai bien souligné lors de la séance.

Pour commencer, enfonçons les portes ouvertes. Les robots sont un bien, un objet, appartenant à quelqu’un. À ce titre, les dommages qu’ils causent relèvent du régime de la responsabilité du fait des choses. Un autre point intéressant à analyser consiste à savoir si un robot concluant un contrat engage son propriétaire, ou pas (a priori, je chercherais du coté du consentement).

1. Robot à programmation pré-établie

Ici, le cas est facile. La clinique n’a absolument pas la main sur le robot, qui se contente de suivre sa programmation pré-établie en fonction des ordres qu’il reçoit.

Deux cas de figure :

  • soit l’ordre est dommageable en lui-même (laisse tomber la personne par terre), auquel cas la clinique pourra être poursuivie (garde du comportement)
  • soit l’exécution de l’ordre est imparfaite, auquel cas c’est le fabricant qui est en cause (faute de conception). Plusieurs régimes de responsabilité peuvent s’entrechoquer ; dans ce cas précis la responsabilité contractuelle aurait la préséance (contrat visant à l’expérimentation des robots en cours). Il est aussi possible d’envisager la responsabilité du fait des choses (garde de la structure), 1383 C. Civ., ou encore la responsabilité des produits défectueux.

 2. Robot à capacité d’apprentissage par mimétisme

Les choses se corsent un peu. Le fabricant à livré un robot exempt de défauts, mais nécessitant une phase d’apprentissage. C’est cet apprentissage qui a mal été réalisé, or il incombait à la clinique. Donc responsabilité de la clinique (garde du comportement).

3. Robot auto-apprenant

Ce cas de figure relève pour le moment de la science-fiction. Mais comme des équipes de chercheurs y travaillent, il faut l’envisager.

Ici, ni le fabricant ni la clinique n’ont la maitrise de ce que le robot enregistre, apprend et déduit. Il agit en autonomie. La question de sa personnalité juridique se pose donc ; faut-il donner une personnalité juridique quelconque à un objet capable d’agir de son propre chef, hors de toute supervision humaine ?

Une solution juridique envisageable serait de toujours considérer la responsabilité du fait des choses applicables :

  • si le fait relève d’une action interdite par la loi (comme le meurtre), le fabricant serait responsable (garde de la structure, et/ou responsabilité des produits défectueux)
  • si le fait relève d’une action courante du robot (comme ne pas arriver à franchir une porte), la clinique serait responsable (garde du comportement).

Une autre approche serait de s’inspirer des anciennes règles en vigueur pour la responsabilité des parents du fait de leur enfant, à savoir de devoir démontrer que la clinique a commis une « faute d’éducation » envers le robot, en ne lui inculquant pas les limites de ce qui est autorisé et interdit. Mais cette solution se heurterait à de nombreux obstacles économiques (ne serait-ce que la durée nécessaire pour l’apprentissage).

Publicités

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s