Faire la morale aux robots.
Une introduction à l’éthique des algorithmes,
de Martin Gibert,
Atelier 10, 2020.
En 2017, Aristote, un assistant virtuel destiné aux enfants, a été retiré du marché suite à de nombreuses plaintes. Il était censé apaiser les peurs, répondre à des questions, raconter des histoires, etc. Mais ses détracteurs craignaient qu’il ait un impact négatif sur la formation des tout-petits. Notamment, d’aucuns s’inquiétaient qu’il leur dise la vérité sur le Père Noël. Cette anecdote illustre toute la difficulté qu’il y a à programmer les algorithmes de plus en plus présents dans nos vies. Les assistants virtuels doivent-ils toujours dire la vérité ? Les voitures autonomes doivent-elles sauver en priorité les enfants ? Les machines doivent-elles appliquer des instructions qui nuiraient à autrui ? En somme, comment enseigner aux robots à agir moralement ? Telle est la question que pose le philosophe Martin Gibert dans ce petit essai très didactique.
Pour les philosophes, cette question est un casse-tête. Par exemple, les utilitaristes avancent que les algorithmes doivent chercher à maximiser le bien-être. Mais, en fonction des situations, l’option à choisir n’est pas toujours évidente à trouver. Quant aux déontologistes, ils estiment que les algorithmes doivent respecter des règles strictes, comme, ne jamais mentir. Le problème est que, parfois, l’entorse à une règle, même bonne en soi, est la meilleure option. Pour sortir de cette impasse, Gibert propose de recourir à l’éthique de la vertu. Le principe consiste à enseigner aux algorithmes à prendre les décisions que des personnes vertueuses auraient prises dans des situations identiques. Les algorithmes puiseraient ainsi dans des bases de données de décisions vertueuses. Moins rigide que les précédentes, cette approche présente l’avantage de nous inciter à nous demander dans quelle société nous voulons vivre. En faisant la morale aux robots, c’est donc à nous-mêmes que nous la faisons aussi.
Thomas Lepeltier,
Sciences Humaines,
328, août-septembre 2020.
Pour acheter ce livre : Amazon.fr
ou Place
des libraires.