Le robot humanoïde Asimo (Advanced Step in Innovative MObility), conçu chez Honda, semble ainsi nommé en hommage à l’écrivain Isaac Asimov doivent respecter les 3 lois de Isaac Asimov qui sont
loi numéro 1 : un robot ne peut porter atteinte à un être humain ni, restant passif, permettre qu'un être humain soit exposé au danger ;
loi numéro 2 : un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;
loi numéro 3 : un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.
La première réaction lorsqu'on présente un robot androïde à un groupe de personnes est le plus souvent un mélange d'attirance et d'appréhension. Ces machines provoquent un intérêt chez les observateurs humains, une curiosité envers ces « êtres » étranges qui leur ressemblent. Néanmoins, presque aussitôt, cette attirance est contenue, voire inhibée par la crainte profonde d'être confronté à une menace potentielle. Cette réaction primitive est due à notre origine d'animal social qui accepte ou rejette un individu en fonction de la reconnaissance de son appartenance ou non au groupe. On retrouve ce type de comportement chez la plupart des animaux sociaux, en particulier les grands singes.
Par leur ressemblance avec l’humain, les Geminoids de Hiroshi Ishiguro (au centre) provoquent des phénomènes de rejet qui illustrent le « syndrome de la vallée de l’étrange » proposé par Masahiro Mori en 1970.
Hiroshi Ishiguro Laboratories, ATR
La deuxième explication relève de la croyance religieuse. En effet, dans tout le bassin méditerranéen, les traditions ont toujours condamné la création d'êtres artificiels. Ainsi, dans la Genèse, Adam est façonné à partir de l'argile, et cette statue inerte est animée par le souffle de Dieu. La création de la vie ne peut être que de nature divine. Le deuxième commandement du Décalogue interdit explicitement la création d'artefacts imitant la vie : « Tu ne feras aucune image sculptée, rien qui ne ressemble à ce qui est dans les cieux là-haut, ou sur terre ici-bas, ou dans les eaux au-dessous de la terre. »
Une troisième explication concerne la crainte toujours renouvelée des bouleversements entraînés par le progrès technique. Tout au long de notre histoire, les machines ont représenté d'un côté une avancée qui devait rendre le travail moins pénible, et de l'autre un mal asservissant l'Homme pour le compte d'une classe sociale dominante. Cette crainte est bien présente aujourd'hui, d'autant que les robots ont effectivement remplacé les ouvriers dans de nombreuses usines de production à la chaîne, en particulier dans le secteur automobile. Cela se traduit par une angoisse latente d'être dépassé par la technologie, de ne plus être adapté à la société, de perdre son emploi pour être remplacé par des robots plus performants et plus rentables. Il n'est donc pas étonnant que le robot, à la fois symbole de la technologie et de la productivité, engendre une réaction à priori négative dans les classes populaires, celles qui subissent les effets directs du changement.
Enfin, la quatrième raison est d'ordre culturel. En s'appuyant sur les traditions mythiques et religieuses, lors de la prise de conscience des effets négatifs potentiels de la révolution industrielle, les auteurs romantiques du XIXe siècle ont fortement contribué à la construction de la figure péjorative du robot. Ils sont nombreux à avoir abordé, sous une forme ou une autre, le thème de la créature artificielle maudite : Hoffmann, de Villiers de L'Isle-Adam, Mérimée, Balzac, Poe... Des statues vivantes au Golem, des Hommes mécaniques au monstre de Frankenstein, des gynéides fatales aux robots universels, ce sont ces histoires qui ont érigé le robot en objet mythique. En Allemagne, Hoffmann raconte la tragédie d'un homme amoureux d'une automate qu'il croyait humaine (Olympia). En Angleterre, Mary Shelley bouscula les dogmes classiques dans un roman gothique hanté par une créature monstrueuse tourmentée par les souvenirs d'un passé qu'elle n'avait pas vécu (Frankenstein).
L'Homme est le créateur des robots, ces nouveaux travailleurs infatigables. Mais les maîtres vivent toujours dans la crainte de la révolte des esclaves comme de la punition des dieux. Isaac Asimov trouvait cette peur ridicule. « Je dois avouer qu'à l'occasion, lors de mes premiers essais, j'avais tendance à considérer un peu le robot comme une sorte de jouet. J'y voyais une créature totalement inoffensive, juste préoccupée d'exécuter le travail pour lequel on l'avait conçue, incapable de causer le moindre préjudice aux Hommes, servant de souffre-douleur aux enfants, tandis que maints adultes - victimes d'un complexe de Frankenstein (comme je l'appelle dans certains de mes récits) - voulaient à tout prix considérer ces pauvres machines comme des créatures mortellement dangereuses. »
Les robots étant des machines comme les autres et non des monstres incontrôlables, ils devaient de ce fait comporter des dispositifs de sécurité. C'est cette réflexion qui conduira Asimov à créer les trois lois de la robotique.
Quand bien même les robots ne vont pas se révolter, il est statistiquement inévitable qu'il y ait des accidents. De même que les conducteurs plus ou moins prudents provoquent malheureusement chaque année de nombreux morts et blessés, sans compter les dégâts matériels, l'utilisation des robots dans certaines situations peut conduire à des accidents plus ou moins graves, mettant en jeu la vie ou l'intégrité des personnes. Ce sont d'ailleurs de tels cas qui ont constitué le point de départ des intrigues mises en scène par Isaac Asimov dans ses nouvelles. Une autre source de problèmes pointée par l'auteur concerne les utilisations frauduleuses ou criminelles des robots. L'Homme est le plus souvent la plus grande menace pour l'Homme. Ainsi, la prise de contrôle d'un robot par un tiers malveillant pour perpétrer un délit est tout à fait plausible. De même, la création de virus ou de chevaux de Troie pour détourner le robot de son utilisation première est théoriquement possible. Enfin, il existe aussi une dérive possible des applications militaires.
La raison principale de l'existence des trois lois de la robotique est toutefois d'ordre littéraire. Elles sont toujours au centre des intrigues imaginées par Asimov. La cohérence de ces lois et leur statut d'inviolabilité permettent en effet de créer des situations énigmatiques et paradoxales propices au développement des thèmes narratifs plus subtils que les classiques histoires de monstres.
Les lois d'Asimov apparaissent à première vue tout à fait valides et pertinentes, mais lorsqu'on y regarde de plus près, leur application pratique se révèle délicate et soumise à de nombreuses difficultés.
Ainsi, dans plusieurs nouvelles, Asimov place les robots dans des situations de dilemme où il est impossible d'agir sans prendre le moindre risque pour un humain. Aussi crée-t-il un contexte qui contredit la première loi quelle que soit la décision prise ensuite par le robot.
Dans d'autres cas, le robot doit choisir entre plusieurs ordres contradictoires. Il se retrouve alors dans une situation de conflit avec la deuxième loi, dans laquelle il doit choisir à qui il va finalement obéir.
Que ce soit pour des raisons d'ambiguïté des termes, de perception et d'analyse incomplète, de dilemmes ou d'ordres contradictoires, il existe une infinité de cas pratiques qui placent le robot dans une situation où il devient impossible d'agir sans enfreindre d'une manière ou d'une autre l'une des trois lois. De ce fait, contrairement à leur principe initial d'inviolabilité, elles ne peuvent pas être absolues. En outre, leur priorité relative peut varier selon les implémentations, les circonstances, les ordres précédents et l'expérience du robot. Il en résulte une très grande complexité logique qui ne peut se résoudre par des réponses strictement binaires, d'action ou d'inaction. Il existe le plus souvent plusieurs réponses possibles et une gradation dans la réponse ou l'action choisie.
Asimov était parfaitement conscient des limites de ses trois lois, d'autant qu'il les avait conçues de manière à profiter de leurs faiblesses. Assez rapidement, dès 1950, il en pointa certaines limites, en particulier concernant la première loi qui protège l'humain en tant qu'individu et non en tant qu'espèce. En effet, il serait préférable en toute logique de sacrifier un individu si cela pouvait permettre de sauver un groupe plus important, sinon l'humanité tout entière. Malgré cette prise de conscience précoce, ce n'est qu'en 1985 qu'il intégra cette idée en modifiant les lois. Il ajouta aux trois lois une loi zéro qui plaçait l'intérêt de l'humanité au-dessus de celui d'un seul individu :
loi zéro : un robot ne peut nuire à l'humanité ni laisser sans assistance l'humanité en danger.
À l'heure où la robotique militaire est en plein essor, où les drones armés se généralisent et deviennent inévitablement de plus en plus autonomes, les trois lois de la robotique rappellent aux scientifiques et plus généralement aux citoyens leurs responsabilités. Nous touchons ici aux fondements mêmes des lois de la robotique. Les robots militaires tueurs ne peuvent pas, par définition, être conformes à la première loi. Dans ce contexte, seule une réflexion éthique, individuelle et collective, replaçant l'Homme au centre des préoccupations, permettra d'éviter à cette jeune pousse prometteuse qu'est la robotique un développement aveugle. En ce sens, les trois lois d'Asimov gardent toute leur pertinence.
très bon livre sur le sujet
Accueil 
: