Close

Intelligence artificielle : quelle responsabilité en cas d'accident ?

accident Google Car
La petite voiture avance à petite allure sur sa file sur l’autoroute. Plus loin, elle détecte un obstacle qui va l’obliger à changer de file. Clignotant, vérification des espaces disponibles et hop, on passe sur la file de gauche. Patatras ! un bus arrive, et c’est l’accrochage.
Un accrochage comme il y en a des milliers sur toutes les routes du monde. Sauf, qu’ici nous sommes en Californie et que nous venons de relater le premier accident au monde de robomobile, la voiture sans chauffeur de Google.
 
Depuis sept ans, ces automobiles sans chauffeur, guidée par vision laser et intelligence artificielle parcourent les routes entre San Francisco et Los Angeles. Elles n’ont jamais eu, dit Google, le moindre accident à leur tort. C’est donc une première qui est arrivée le 14 février dernier. Un petit accident sans gravité, de la tôle froissée, mais qui pose bien des questions.
 

Problème classique d’incompréhension

 
Selon le constat d’accident, la voiture de Google était bloquée sur la file de droite pas des sacs de sable. Elle a d’abord laissé passer plusieurs voitures sur la file de gauche avant de tenter de s’insérer dans cette file alors qu’un bus approchait. Selon le passager de la Google car qui se trouvait dans le véhicule autonome, elle a vu le bus s’approcher dans le rétroviseur gauche, mais a cru que le bus ralentirait pour permettre à la Google car de passer.
 
 
Problème classique d’incompréhension sur la route. Mais ici, c’est l’intelligence artificielle de Google qui n’a pas compris. Le magazine The Verge s’est procuré le rapport d’accident de Google. On y lit : « Ce type d’incompréhension a lieu tous les jours sur la route entre des conducteurs humains. C’est un exemple classique de la négociation qui fait partie intégrante de la conduite – nous essayons tous de prédire les mouvements des uns et des autres. » Google reconnait dans ce texte sa responsabilité et assure que son logiciel sera retravaillé pour améliorer ce jeu de négociation en intégrant que « les bus et autres véhicules lourds sont moins à même de nous céder le passage que d’autres types de véhicules ».
Nul doute donc que Google va retravailler ses algorithmes pour que la conduite de ses véhicules soit de plus en plus sûre.
 

Question de responsabilité

 
Ce qui est notable, c’est la question de la responsabilité. Dans un accident impliquant une automobile robot, qui est responsable ? La justice américaine à travers la National Highway Traffic Safety Administration (NHTSA) a tranché et fait connaitre sa position au début du mois de février. Les véhicules autonomes comme ceux de Google sont reconnus comme des « conducteurs » aux yeux de la loi.  Elle précise que si les véhicules d’auto-conduite ont satisfait aux normes techniques de sécurité, rien ne s’oppose à ce que l’intelligence artificielle qui contrôle le véhicule, en l’absence de tout contrôle humain, ne soit d’une part un obstacle à la conduite et d’autre part, conséquemment, responsable de sa conduite.
 
 
Qui est sanctionné quand une voiture autonome viole une règle de circulation ?
 
 
Comprenant la nouveauté de sa décision, l’Autorité prend le soin de préciser : « le conducteur ne sera pas un conducteur au sens traditionnel de pilote de véhicules » comme on l’entend depuis que l’automobile existe. « Si aucun humain ne conduit le véhicule, il est plus raisonnable d’identifier le conducteur comme tout ce qui (par opposition à celui qui) fait la conduite. » L’intelligence artificielle est ainsi promue en droit, conducteur de véhicule. L’IA est donc devenue un individu responsable de ses actes. C’est une première et elle doit faire réfléchir. Les robots, puisqu’une voiture autonome Google n’est rien d’autre qu’un robot, est donc doté de personnalité juridique et de responsabilité.
 
La question n’est pas seulement philosophique. Dans le petit accident de circulation que nous relations au début de cet article, nous avons observé que l’accident avait été causé par un problème classique d’interprétation. C’est ce qui se passe tous les jours sur les routes. On fait des choix et des arbitrages, en général en mettant l’option sécurité au point culminant du processus de décision. Quelquefois, nous prenons ainsi des décisions de vie et de mort.
 

Dilemme moral

 
Qu’en est-il des véhicules conduits par une IA ? Quel est son processus de décision dans des cas limite ou un dilemme moral est introduit. Exemple de situation d’urgence où l’on doit prendre une décision en une fraction de seconde : faut-il écraser sa voiture contre un mur au risque de tuer son occupant ou doit-on continuer sur la route et faucher une foule de piétons ? Que répond et que fait IA ? la voiture autonome est-elle programmée pour tuer le moins possible de personnes et donc fracasser la voiture contre le mur, avec son passager ?
 
 
Personne ne répond à ces questions aujourd’hui. Les défenseurs de la voiture autonome affirment que sa conduite est incomparablement plus fiable que celle des humains et que si elle devait se généraliser, elle réduirait considérablement le nombre de morts sur les routes. Soit.
 

Suppression prochaine du permis de conduire ?

 
Certains pensent même, c’est le cas chez certains assureurs, interdire à terme la conduite de véhicules par des humains. Nous n’y sommes pas encore mais l’idée est là.
Les constructeurs Google comme Tesla sont déterminés à avancer sur ce marché. Pour eux la voiture de Monsieur Toutlemonde sera sans pédale, sans volant et sans conducteur. Elle sera contrôlée par une Intelligence artificielle assistée de capteurs, caméras, radars et lasers pour la guider dans des systèmes de cartographie ultrasophistiqués, et comprendre son environnement en s’aidant de connexions à tous les systèmes d’alerte et de signalisation possibles.  Google injecte des investissements massifs dans ces projets et annonce que son automobile autonome sera disponible dans le public dès 2020 (dans quatre ans) et Tesla la promet dès cette année !
La robomobile répond sans contestation possible à de nombreux défis sociétaux : amélioration de la sécurité routière, mobilité pour tous, réinvention de la ville, disparition des parkings, développement de l’autopartage, etc… Une révolution de l’automobile dont l’Amérique est en train d’écrire les standards, les règles et les principes juridiques. Inventée à la fin du XIX° siècle en Europe, l’histoire de l’automobile devenue robomobile s’écrit désormais aux États-Unis.