Les robots et le mal

Des robots domestiques se fontdélateurs, des agents conversationnels injurient leurs interlocuteurs. Pireencore : des systèmes informatiques participent aux conflits humains etparfois même les provoquent. Le 18 mars 2018, un véhicule autonome dela société Uber a tué une femme qui traversait la rue dans une ville del'Arizona. Ce fut la première mort d'un piéton provoquée par un algorithme.

Qui est responsable ? Laréponse à cette question compte parmi les défis les plus urgents à relever dansnotre rapport aux technologies numériques. Mais il ne s'agit pas de savoircomment rendre l'intelligence artificielle bienveillante. Il s'agit de faire ensorte qu'elle ne se substitue pas à l'homme en tant qu'agent moral. Seul lerecours au hasard, et ceci dès sa conception, peut libérer la machine de laresponsabilité qu'on veut lui faire porter.

AlexeiGrinbaum est physicien et philosophe. Chercheur au CEA de Saclay, il estspécialiste des fondements de la mécanique quantique. Conjointement à ces recherches mathématiques, il travaille sur les questions éthiques poséespar les nouvelles technologies.