Accueil > Nos Publications > Revue de Presse

Faut-il avoir peur de l’intelligence artificielle ?

Télécoms

mardi 11 avril 2017

Source : frandroid.com (10 avril 2017)

Après nous être intéressés au fonctionnement de l’intelligence artificielle, nous avons voulu nous pencher sur les questions et les craintes que soulevait celle-ci. Depuis des années, les œuvres de fiction abordent le sujet et toutes les dérives possibles, mais ces questions se posent également sérieusement dans la vraie vie. L’IA signerait-elle vraiment la fin de l’humanité ?

En février dernier, nous nous sommes penchés sur l’intelligence artificielle afin de mieux comprendre comment celle-ci fonctionnait. Cette plongée dans un océan de concepts et de termes aussi divers que complexes, entre réseaux de neurones et machine learning, a soulevé de nombreuses questions.

Nous sommes persuadés que la plupart des ingénieurs et scientifiques qui travaillent sur l’intelligence artificielle ont les meilleures intentions et aspirent à un monde meilleur. Néanmoins, le fait de se dire qu’une machine est capable d’apprendre de nouvelles choses toute seule, sans l’aide de personne, n’est pas forcément très rassurant.

Et si les machines, une fois qu’elles nous auront surpassées, deviennent malveillantes ? Puisqu’elles sont destinées à être parfaitement autonomes et intelligentes, comment peut-on s’assurer qu’elles restent dans « le droit chemin » ?

L’IA dans la pop culture

Ce sentiment de crainte est d’ailleurs largement partagé dans l’imaginaire collectif. Il faut dire que ce dernier est nourri par de nombreuses œuvres de fiction généralement pessimistes dans lesquelles les schémas narratifs sont assez simples à saisir : quand une machine intelligente créée par les hommes fait partie des protagonistes principaux de l’histoire, il y a de fortes chances que ça finisse en baston pour la sauvegarde de l’humanité.

Dès lors, on associe très facilement l’intelligence artificielle à une entité froide, impitoyable et intransigeante. Celle-ci est assez éveillée pour mener des raisonnements logiques, mais reste dénuée de toute estime pour l’espèce humaine. Ainsi, si elle considère que les êtres humains sont la cause d’un problème — c’est d’ailleurs souvent le cas, dans la fiction comme dans la vraie vie —, elle déduira qu’il faut purement et simplement éradiquer l’humanité.

Certes, toutes les histoires sont différentes, mais il y a toujours la même idée sous-jacente que l’on pourrait résumer ainsi :
L’IA est l’ennemie de l’homme.

Petit tour d’horizon — non exhaustif — pour s’en persuader (avec de très légers spoilers) :

Les trois lois d’Asimov

Dans toute la bibliographie d’Isaac Asimov, génial pionnier de la science-fiction, les trois fameuses lois d’Asimov censées régir le comportement des robots (afin de les empêcher de s’en prendre aux humains) ont été établies par l’auteur presque uniquement dans le but d’être enfreintes (et donc de pouvoir écrire une histoire).

HAL 9 000 dans 2001, l’Odyssée de l’espace

HAL 9 000 dans 2001, l’Odyssée de l’espace, créée dans un laboratoire scientifique de l’Illinois, représente l’ennemi principal des protagonistes. Dans ce cas, ce sont des dysfonctionnements de l’intelligence artificielle qui convainc les astronautes de la débrancher. Mais HAL 9 000 réussit à les empêcher après avoir intercepté leur conversation en lisant sur leurs lèvres. Petit bonus pour flipper : dans la vraie vie, Google Deepmind maîtrise également très bien la lecture labiale.

VIKI dans I,Robot

Dans le film I,Robot avec Will Smith, les robots font partie de la vie quotidienne et obéissent aux mêmes trois lois d’Asimov. Mais un superordinateur du nom de VIKI, après moult observations, estime que les êtres humains ne sont pas capables de s’autogérer. Dans le but de prévenir la planète contre davantage de guerres et de pollution, l’IA conclut qu’elle doit prendre le contrôle de l’humanité.
LoveMachine dans Summer Wars

Le film d’animation Summer War suit les aventures d’un jeune garçon très doué pour les mathématiques qui fait face à une intelligence artificielle malveillante infectant le plus grand réseau social du monde — non ce n’est pas Facebook. Des milliards de données sont compromises et le logiciel ne tarde pas à provoquer un chaos complet. Baptisée LoveMachine, l’IA en question est ici carrément représentée sous la forme d’un dieu-monstre effrayant.

Salut, moi c’est LoveMachine.

On s’arrêtera ici, mais des fictions de ce genre, il en existe pléthore. Tant et si bien, qu’il serait impossible de toutes les lister. Leur objectif premier relève du divertissement, mais la problématique soulevée mérite réflexion. Faut-il avoir peur de l’intelligence artificielle ?

La peur de l’IA

La question a déjà été posée. Parmi les 2 000 personnes interrogées dans le cadre d’une étude de la British Science Association, 36 % estimaient que le développement de l’intelligence artificielle est une menace pour la survie de l’humanité sur le long terme. Pragmatique, le célèbre physicien Stephen Hawking a, quant à lui, déclaré en octobre 2016 que l’IA serait « soit la meilleure, soit la pire chose qui ne soit jamais arrivée à l’humanité ». Il va même jusqu’à dire qu’il s’agira du plus grand événement de l’histoire de notre civilisation. De ce fait, si les intelligences artificielles nourrissent de mauvais desseins, nous sommes tous dans le pétrin.

Au fond, cette inquiétude est due au fait que malgré une capacité cognitive égale — voire supérieure — aux hommes et aux femmes, une intelligence artificielle semble a priori dépourvue d’une qualité indispensable que l’on prête trop volontiers à l’être humain : l’empathie. Or, à l’instar de tous les sentiments, on a bien du mal à voir comment l’IA peut concevoir une telle émotion. Difficile d’imaginer comment elle pourrait ressentir cela par le biais d’une suite chiffres plutôt que par l’expérience de la vie. L’IA serait donc psychopathe. Pas très rassurant, n’est-ce pas ?

Néanmoins, l’histoire de l’humanité a prouvé que la science pouvait sans cesse repousser ses limites et les IA sont déjà en train d’apprendre le sens de l’humour. À terme, il ne serait donc pas si étonnant qu’elles se mettent à assimiler des notions propres à l’être humain telles que l’empathie ou — soyons fous — le sentiment amoureux ou l’appréhension de la mort. Encore plus loin dans l’avenir, les intelligences artificielles et les robots pourraient même éventuellement développer leurs propres personnalités.

Anticiper le développement de l’IA

Ces hypothèses peuvent paraître incongrues à l’heure actuelle — et elles le sont sans doute. Mais en posant toutes ces problématiques dès aujourd’hui, l’humanité n’en sera que mieux préparée face à la montée en puissance des intelligences artificielles et plus à même d’anticiper toutes les éventuelles dérives.

Par ailleurs, on peut estimer que l’intelligence artificielle cristallise toutes les craintes que les précédentes révolutions technologiques ont engendrées. Rappelez-vous les nombreuses angoisses liées à l’avènement d’Internet ou des smartphones : peur d’un outil inconnu, dépendance à la technologie, aliénation et destruction d’emplois. Ces interrogations doivent également être réfléchies dès à présent, même si leurs aboutissants ne se concrétiseront peut-être que dans une vingtaine ou une cinquantaine d’années.

Craindre l’homme ou la machine ?

Au final, nous allons sans doute être obligés d’apprendre à vivre avec les intelligences artificielles, mais il faut également faire en sorte que celles-ci apprennent à vivre avec nous. Enfin, si craintes il doit y avoir, autant faire en sorte qu’elles soient pertinentes. Le célèbre entrepreneur Elon Musk affirme ainsi passer une demi-journée par semaine à lutter contre une éventuelle IA despotique. Mais, surtout, il précise la chose suivante :

Mon inquiétude n’est pas tellement qu’une IA pourrait se développer par elle-même d’une manière mauvaise. Mon inquiétude c’est plutôt que quelqu’un pourrait l’utiliser d’une mauvaise manière.

Autrement dit, pour lui, le danger n’est pas la machine, mais l’être humain derrière elle. Et c’est sans doute là que réside le vrai défi de l’intelligence artificielle : s’assurer que les scientifiques, ingénieurs et grosses entreprises travaillant sur les IA ne fassent pas n’importe quoi. Vaste programme…

Contact :

  • UNSA Orange
  • mél : orange@unsa.org
  • tél. : +33 (0)6 43 58 04 45
Site réalisé avec SPIP | | Plan du site | Extranet | Suivre la vie du site RSS 2.0
Habillage visuel © digitalnature sous Licence GPL