"I, Robot" (exposé)

exposé réalisé par mrs Lanari et Candeias Fereira, lycée Albert Ier de Moanco,  TES2, novembre 2016.

Synopsis :

 En 2035, l’humanité est totalement assistée par des robots : ce sont eux qui accomplissent toutes les taches « ingrates ». Avant la sortie d’un nouveau modèle de robot plus performant : le NS5, le professeur Alfred Lanning, l’ingénieur ayant conçu ce modèle est retrouvé mort. Tout le monde excepté  l’inspecteur Spooner pense à un suicide, il  va donc effectuer une enquête qui le mènera à un complot bien plus important.

Quelle vision de la conscience et de la sécurité ce film maintient-il ?

I/ La conscience : une descendance du libre arbitre. (Scène 25 / 26 : la suppression de Sonny)

https://www.youtube.com/watch?v=5NuJV50zEAY

A /le discours de Lanning sur « les fantômes de la machine » :

 Présence d’une forme de pensée conduisant à une possible conscience. Evocation du cogito cartésien. En effet la présence de « fantômes dans la machine » non programmés donnent naissance à des actes et à une analyse des choses de façon logique et non pas binaire. On peut donc en déduire qu’ils sont doués d’une conscience végétative. Le terme « fantômes de la machine » provient du philosophe Gilbert Ryle, il emploie ce terme en dépassant la pensée de Descartes qui fait la séparation entre le corps matériel et l’âme immatérielle.

 B/ le cas de Sonny le robot doué de conscience plus évoluée :

Dans le cadre du robot Sonny on peut remarquer une Existence d’analyse et une recherche de vérité.  Il y a une présence de sentiments (la peur qu’il montre par des gestes et des grimaces) montrant que ce robot est doué d’une conscience comme les hommes. Sa conscience est similaire  à l’homme, contrairement aux autres robots, il a une pensée RAISONNABLE. Il est l’exemple de la doctrine connexionniste où l’on pense que l’on peut reproduire la pensée humaine à travers des ordinateurs.

Conclusion de partie :

Les robots sont dotés de « fantômes dans la machine » d’après Lanning. Ces fantômes aboutissent à la création de protocoles aléatoires donnant lieu à une possible conscience. En effet les robots agissent de façon non-rationnelle vis-à-vis de leur programmation. Le personnage de Sonny en est l’exemple. Cette conscience est néanmoins guidée par l’existence des 3 lois qui visent à protéger l’homme

II / La sécurité comme une entrave à la liberté. (Scène 32 : le plan de VIKI)

A/ les lois de la robotique crées pour la sécurité de l’homme :

Première loi : Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger.

Deuxième loi : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la première loi.

Troisième loi : Un robot doit protéger son existence dans la mesure où cette protection n'est en contradiction ni avec la première ni avec la deuxième loi

Ces lois ont pour but de protéger l’homme de manière logique or l’existence d’une conscience change la donne : les robots analysent et interprètent les règles.

B / L’analyse de ces loi par la conscience des robots (ici VIKI)

https://www.youtube.com/watch?v=sri8jgEPsMA

Dans le cadre de la sécurité de l’espèce humaine les robots se rendent compte que les humains ne peuvent pas se protéger eux même : ils se font la guerre, commettent des meurtres et des actes immoraux ; les robots les protègent en les empêchant d’agir librement. En voulant la sécurité idéale les robots suppriment la notion de liberté qu’ils ne comprennent pas. Ils se pensent supérieurs à l’homme de part une vision plus idéaliste et actes pour la responsabilité de la survie de l’homme.

Contrairement aux hommes, les robots doués de conscience ont une pensée raisonnée et non pas raisonnable, là où les hommes font appel à la raison les robots font des calculs ce qui aboutit à une vision différente des lois.

Conclusion :

  Ce film nous montre un degré inférieur de la conscience, une conscience qui dépend du libre arbitre, de plus cette conscience est appuyée par une volonté sans appel à la sécurité. Cette sécurité devient donc une entrave à la liberté.

Ouverture

Un robot a récemment acheté illégalement de la drogue sur Internet. Un casse-tête pour les législateurs, qui se demandent qui condamner: le robot ou son propriétaire?

Une exposition intitulée The Darknet: From Memes to Onionland, qui se tient à Zurich jusqu’au 11 janvier prochain, vient de créer la polémique, comme le raconte Le Guardian. Deux artistes suisses ont décidé de montrer les achats faits par un robot automatisé appelé le «Random Darknet Shopper», livré à lui-même sur le «  deep web, » cet internet caché où se passent beaucoup d’activités illicites, avec 100 dollars de Bitcoins (une monnaie numérique) à dépenser par semaine.

Ainsi, l’exposition dévoile ses emplettes: un jean Diesel, une casquette de baseball, une caméra cachée, des cigarettes, un faux sac Louis Vuitton… et 10 pilules d’ecstasy. Reçues par la poste et cachées dans un boîtier DVD, ces pilules sont au cœur d’un «dilemme philosophique lancé par l’émergence des marchés du dark net, de l’anonymat sur Internet, et des Bitcoins», note le Guardian.

On est donc encore un peu loin de l'application des lois d’Isaac Asimov, romancier, qui anticipait déjà en 1942 les problématiques liées à l’autonomisation des robots et leur intelligence artificielle:

«1) Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu’un être humain soit exposé au danger.

2) Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi.

3) Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.»

Mais si les robots continuent à devenir de plus en plus indépendants, comme le prouve cette histoire, certains vont commencer à se dire que la science-fiction se rapproche de plus en plus de la réalité. «Ce qu'il semble de plus en plus évident pour des problèmes de ce genre est qu'ils vont passer de l'hypothèse aux installations d'art puis à la vie de tous les jours», conclut Ryan Calo. «Et je me demande à quel point nous sommes prêts.»

https://www.youtube.com/watch?v=YUD6L0seqq8

Aide en cas de questions

[À relire à l'occasion de la diffusion de la saison 2 de “Real Humans” sur Arte à partir du jeudi 15 mai]. Qu’est-ce qui définit l’homme ? Et si des robots d’apparence humaine prétendaient être traités à l’égal de leurs créateurs ? Une série suédoise en dix épisodes pose des questions à forte teneur philosophique.

Real Humans, Robot, Descartes, Arte, Série, TV, Machine

Imaginez que vous êtes confortablement assis un après-midi dans votre fauteuil, et qu’un doute vous assaille : « Je regarde par la fenêtre, et je vois des hommes qui passent dans la rue. Mais que vois-je en vérité ? Rien d’autre que des chapeaux et des manteaux, sous lesquels pourraient tout aussi bien se dissimuler des machines. » Nos prétendus semblables ne seraient que des automates télécommandés ? Accordons que l’idée paraît passablement farfelue. Mais c’est précisément cette question que René Descartes s’est posée au XVIIème siècle. Ses Méditations métaphysiques, d’où provient l’hypothèse des robots, marque la naissance de la philosophie moderne, qui tourne autour de la question de la nature de la conscience et de l’esprit humains.

Descartes et les Hubots

Pour Descartes et ses contemporains, l’idée des hommes-machines constituait encore une pure expérience de pensée. Mais nous, citoyens du XXIème siècle, voyons bel et bien poindre un quotidien peuplé de robots d’apparence humaine : aujourd’hui déjà, on utilise des appareils doués de parole, non seulement dans les missions spatiales et dans l’exploration des grands fonds marins, mais aussi pour soigner et surveiller certains malades atteints de démence dans les foyers de personnes âgées. Récemment, l’Union européenne a débloqué la somme record d’un milliard d’euros pour le Human Brain Project, une recherche qui a pour objectif de reproduire avec des machines le fonctionnement du cerveau humain, et d’utiliser cette technique dans la fabrication de robots perfectionnés.

« Les hubots ne peuvent ni mentir, ni faire violence aux vrais humains »

La série suédoise Real Humans rediffusée par Arte nous conduit au cœur de ce futur : comme partout dans le monde civilisé, les hubots (mot-valise formé des mots anglais human et robots) sont arrivés dans une petite ville de Suède. Selon le programme installé et le prix payé, ces automates au design parfait aident les habitants dans les tâches ménagères et les soins aux personnes âgées, sur les chantiers et dans les salles de gym. À part manger et dormir, ils sont capables d’imiter à s’y méprendre quasiment toutes les activités humaines. Un point important : les hubots ne peuvent ni mentir, ni faire violence aux vrais humains.

L’étrangeté de l’habituel

La présence de ces nouveaux arrivants électroniques ne tarde pas à susciter de vives tensions dans la ville. C’est surtout à l’intérieur des foyers que se produisent les réactions de rejet, en raison de l’apparence si authentiquement humaine, et le plus souvent séduisante, des hubots. Tous les problèmes de la vie quotidienne tournent autour de la question du statut de ces hommes-machines : si ces êtres (ou ne sont-ce que des choses ?) sont capables d’assumer tant d’activités normalement réservées aux véritables humains, s’ils se comportent et parlent comme eux, ne sera-t-on pas amené aussi à les traiter et à les considérer comme des humains ?

« Le viol d’une femme hubot doit-il encore être considéré comme une simple déprédation matérielle ? »

Le charme particulier de cette série vient de ce qu’elle examine cette question philosophique jusque dans les détails les plus quotidiens : une monitrice de fitness, mère célibataire, entretient une relation amoureuse et sexuelle avec son hubot : comment va-t-elle en parler à son fils ? Une aide-ménagère hubot doit-elle prendre le petit-déjeuner avec la famille ? Si un enfant ment à son hubot, doit-il ensuite lui demander pardon ? Une assistante de vie hubot peut-elle obliger son patron, malade du cœur, à boire du thé plutôt que du café ? Ou pour prendre un cas extrême : le viol d’une femme hubot par une meute d’adolescents en crise de puberté doit-il encore être considéré, au plan juridique, comme une simple déprédation matérielle ?

De vulgaires grille-pain munis d’une fonction « Sourire » ?

Autant de dilemmes d’une complexité fascinante, d’une vraie profondeur juridique et morale, qu’il ne s’agit pas d’écarter en se disant que la réalisation technique de tels êtres artificiels n’est pas pour demain. Car au lieu de s’empêtrer dans le maquis des détails électroniques, les auteurs scandinaves de la série ont choisi d’insérer la problématique des hubots dans des contextes sociaux actuels, tels que la xénophobie, le sexisme ou l’homophobie. Ce qui est décrit ici, c’est d’abord un groupe discriminé, comme tous ceux auxquels on a pour diverses raisons contesté au cours de l’histoire — et auxquels on conteste encore dans de nombreuses régions du monde — la qualité d’humains de plein droit.

« La question philosophique décisive : qu’est-ce qui fait d’un humain un véritable être humain »

Grâce à de remarquables performances d’acteurs, notamment, on se surprend à éprouver une sympathie spontanée envers ces hubots, voire à se solidariser avec leur lutte pour la reconnaissance. Quitte à s’écrier l’instant d’après, exactement comme les vrais humains dans la série : mais ce ne sont que des machines ! Ils ne ressentent rien, ils ne pensent pas par eux-mêmes ! Ce sont de vulgaires grille-pain munis d’une fonction “Sourire” ! » Possible. Mais la question philosophique décisive est allumée, et continue de brûler au fond de nous : qu’est-ce qui fait d’un humain un véritable être humain — qu’est-ce qui le différencie d’un hubot ? La nature corporelle est-elle vraiment le seul critère ? Certaines formes de comportement, certaines facultés ne sont-elles pas déterminantes ? Et si oui, lesquelles ?

Au nom du Créateur

Les microdrames quotidiens des dix épisodes sont reliés entre eux d’une manière dramaturgiquement convaincante par l’action-cadre d’une lutte de libération menée par deux groupes clandestins. D’un côté, une petite bande de hubots devenus autonomes, et donc réellement mus par leur volonté propre, se bat pour affranchir ses congénères ; à ce groupe s’oppose une cellule d’activistes humains, qui mène une campagne terroriste pour instaurer une société sans hubots. Le héros central de l’histoire se trouve, lui, écartelé entre tous les fronts. Car Leo n’est ni tout à fait humain, ni tout à fait hubot : son corps comme son esprit sont de nature électronique et organique en même temps. Qu’en est-il donc de lui ? Est-il un vrai humain, ou un faux hubot ?

« Sans difficulté, j’ai pensé que j’étais un homme. Mais qu’est-ce qu’un homme ? »

René Descartes

Ce n’est pas une mince affaire, cette question de la nature de notre être. Elle avait déjà failli pousser Descartes au désespoir. Une fois engagé dans la voie de la réflexion, il coucha sur le papier les lignes suivantes : « Qu’est-ce donc que j’ai cru être ci-devant ? Sans difficulté, j’ai pensé que j’étais un homme. Mais qu’est-ce qu’un homme ? Dirai-je que c’est un animal raisonnable ? Non certes : car il faudrait par après rechercher ce que c’est qu’animal et ce que c’est que raisonnable, et ainsi d’une seule question nous tomberions insensiblement dans une infinité d’autres plus difficiles et embarrassées. »

Ce n’est peut-être pas trop dévoiler la fin de l’histoire que de rappeler que Descartes ne put écarter le doute quant à la réalité de ses semblables qu’en supposant l’existence d’un Dieu créateur et bienveillant. Les choses ne peuvent plus être tout à fait aussi simples en notre XXIème siècle. Même pour Leo et les siens, pourtant, la perspective du salut reste ouverte. Celui qui se demande à quoi elle ressemble n’a qu’à s’installer dans son fauteuil le jeudi à 23 h 40, et regarder — non pas par la fenêtre, mais sur l’écran de télévision. Il verra passer une série philosophique pour tous les vrais humains.