Tu préfères écraser un homme ou une femme, un chien ou un enfant?

Internet

Le robot Helios Atlas de l'équipe du MIT au DARPA Robotics Challenge le 6 juin 2015 à Pomona, Californie. | Chip Somodevilla/Getty Images/AFP 

Les machines pourront-elles bientôt tout se permettre? Si on n’est toujours pas foutu de savoir où on fixe les limites de la morale pour les êtres humains, il y a des chances.

Nous sommes en 2038 (demain donc) à Detroit, devenu le QG mondial de la production d’androïdes, où les machines continuent d’exécuter sagement ce que leur ordonnent les êtres humains. Successivement, les robots Conor (enquêteur prêté à la police locale), Kara (aide-ménagère), et Markus (qui assiste un vieil artiste malade), prennent conscience de leur condition merdique. Votre rôle à vous –oui, parce que vous avez toujours votre mot à dire sur tout–, c’est d’incarner ces robots et de participer (ou non) et d’agir moralement (ou non) dans cette grande révolte des intelligences artificielles (IA)

Un énième dilemme tordu suite à une overdose d'infusion Nuit Calme? Non, le pitch de Detroit: Become Human, jeu vidéo du studio français Quantic Dream, sorti au printemps dernier et déjà écoulé à plus de 1,5 million d’exemplaires à la fin de l’été. Ce qui n’est pas un jeu, en revanche, c’est que, selon le pape de l’intelligence artificielle, Ray Kurzweil, une intelligence robotique un milliard de fois supérieure à tous les cerveaux humains réunis écrasera l’intelligence humaine d’ici à 2045.

Or, plus les machines sont performantes, plus nous leur déléguons des tâches complexes (choisir la bonne playlist Spotify pour relancer une soirée, conduire des passagères ou passagers, tuer des gens). Et le problème, c’est que personne ne sait si, en ce jour de 2045, les robots seront assez «moraux» pour faire tout cela sans représenter un danger pour l'être humain. Pour vous faire passer le temps jusqu’à ce qu’on sache comment gérer cette armada de robots incontrôlables, Stylist revient sur la bataille intellectuelle la plus fucked-up de la décennie.

Les pleins pouvoirs

Même si nous sommes encore loin du scénario apocalyptique (l’IA va prendre le contrôle du monde puis nous détruire), cela n’empêche pas les ingénieures et ingénieurs, scientifiques et politiques de plancher sur le sujet, un peu comme pour une catastrophe naturelle (on projette qu’en 2050, le mercure va exploser les 50 degrés, ce n’est pas une raison pour ne rien faire aujourd’hui, ce genre).

Leur grand sujet d’inquiétude? La prolifération des robots complètement autonomes. «Est autonome celui qui fixe ses lois, ses règles, rappelle Jean-Gabriel Ganascia, chercheur en IA et président du Comité d’éthique du CNRS (Comets). Les dispositifs actuels sont autonomes techniquement, ils peuvent récupérer de l’information puis prendre une décision. Un jour, peut-être seront-ils assez complexes pour nous imposer ces décisions. Devrons-nous alors leur obéir? Pourrons-nous les accepter? Ce sont des questions qui inquiètent beaucoup aujourd’hui.»

Comme aux Nations unies, où des experts ont planché cette année sur les «robots tueurs autonomes». Ces engins capables de choisir leur cible et de tirer, qu’on voit proliférer dans les salons et peut-être bientôt sur les champs de bataille. À Bruxelles, le Parlement et la Commission européenne réfléchissent à accorder une personnalité juridique et morale aux robots, dont on pourrait à terme engager la responsabilité. Et dans les grandes universités américaines, on envisage des moyens de leur programmer un sens du bien et du mal (en 2014, l’Office of Naval Research, bureau de recherche navale du département de la Marine des États-Unis a débloqué sept millions de dollars sur cinq ans pour financer ces recherches)...

Lire la suite sur Slate.fr - Tu préfères écraser un homme ou une femme, un chien ou un enfant?

Articles en Relation

La Silicon Valley était un rêve, elle est devenue cauchemar On ne démarre pas une journée sans café, dans la Silicon Valley comme ailleurs. Ce matin-là, au HanaHaus, à quelques mètres de l’Apple Store sur Unive...
Votre chat est plus intelligent qu'une IA Qui est vraiment le plus futé, l'animal ou la machine? | Catherine Heath via Unsplash Si l'intelligence artificielle peut nous émerveiller ...

FOTOLIA BANQUE D'IMAGES

Fotolia  

PARTENAIRES INTERNET

ACTUALITÉS SHOPPING IZIVA