De l'homme-machine au cerveau-machine

Le corps est « une machine qui se remue de soi-même ». Cette formule a été employée par Descartes, dans une lettre au Marquis de Newcastle, le 23 novembre 1646. Un siècle plus tard, La Mettrie publie son célèbre ouvrage L’homme-Machine (1748), dans lequel il expose une conception mécaniste de l’homme incluant l'esprit. Cette visée mécaniste s'est poursuivie et, de nos jours, elle se traduit par l'idée que le cerveau humain pourrait être une machine informatique.

1. Du rêve de l’ingénieur au cauchemar du philosophe

Raisonner et calculer

Depuis les travaux de Gottfried Wilhelm Leibniz jusqu'au computationnisme contemporain, c’est-à-dire sur trois siècles, deux rêves se sont mêlés, celui du philosophe et celui de l’ingénieur : le rêve du philosophe d’avoir une méthode assurée pour raisonner juste, le rêve de l’ingénieur d’avoir une machine pour calculer rapidement et sans erreur. Plus encore, pour le philosophe, ce serait de trouver le ressort de la pensée humaine et pour l’ingénieur d’avoir une machine calculante universelle et exacte.

Vers la fin du XIXe siècle, la réalisation simultanée de ces deux rêves a parue possible grâce à la logique. Il faudrait trouver une logique universelle dont les opérations puissent être faites par une machine. Ce serait la clé de la réussite. Au fil du temps, le rêve s’est réalisé, tant sur le plan technique que sur le plan théorique. La logique nécessaire à cette ambition de vérité formelle a été ramenée à du calcul et ce calcul a pu être reproduit par des machines de type digital, d'abord mécaniques, puis informatiques.

C'est un domaine immense auquel ont contribué les plus grands penseurs des quatre siècles précédents. Il concerne les rapports de la pensée et du calcul, ainsi que leurs relations avec le traitement du signal et l'informatique (l'information au sens physique), le computationnisme aboutissant à poser leur équivalence, ce qui n'est pas démontré.

Deux types de recherches se sont poursuivies simultanément, celle à visée pratique des ingénieurs qui ont perfectionné les machines à calculer et celle à visée théorique des philosophes qui ont recherché le ressort intime de la pensée. La synchronicité des deux, l’une mettant au point des machines calculantes et l’autre montrant que l’esprit calcule, a irrésistiblement formé l’analogie du cerveau avec une machine calculante. Mais, est-ce une idée valide formellement, empiriquement justifiée et enfin philosophiquement acceptable ?

Même les sciences humaines

Cette recherche de formalisation de l’esprit a affecté les sciences de l’homme au XXe siècle. Pour Lévi-Strauss, la « fonction symbolique » propre à l’esprit humain peut être décrite selon des formes logiques élémentaires. Dans son livre Les structures élémentaires de la parenté, il propose une formalisation et un essai d’énoncé mathématique (fait par le mathématicien André Weil) concernant le système de parenté très complexe de la tribu Murngin (Nord de l’Australie). À la fin d’un article consacré à Wladimir Propp, Claude Lévi-Strauss propose un tableau à double entrée définissant et formalisant les différents types d’opérations supposées être à l’œuvre dans les mythes (Anthropologie structurale II, Paris, Plon, 1973, p. 164,165). Il semblerait aussi que les groupes booléens s’appliquent aux mythes. Lévi-Strauss a cherché une structure sous-jacente aux diverses conduites culturelles humaines de façon à pouvoir les expliquer. Cela l’a conduit à formaliser cette structure en termes d’apparence logico-mathématique.

Cet excès se retrouve chez Lacan et ses suiveurs qui ont tenté d’imposer l’idée que l’inconscient affectif et relationnel de la psychanalyse serait lui aussi gouverné par une structure syntaxique. À partir de 1954, Lacan met en avant le signifiant, « ce support matériel que le discours concret emprunte au langage ». La relation de l’homme au symbolique devient « la relation de l’homme au signifiant » et en vient à répudier le sens. Le langage est « dénué de signification », écrit-il dans Réel, symbolique, imaginaire (1953). Ainsi, ce qui opère en l’homme, c’est-à-dire l’inconscient, est ramené à une structure assemblant des signifiants, une pure syntaxe. Il s’agit de ramener le psychisme à un fondement élémentaire et matériel (les signifiants) lié par une structure syntaxique. (voir Juignet P., Histoire des idées psychanalytiques, Grenoble, P.U.G., 2006). Le computationnisme cherchait à logiciser la pensée, ici la tendance est de syntaxiser l’inconscient.

2. Chercher l'erreur...

Une analogie erronée

Si l’on formalise un peu la formation de l’analogie cerveau-machine, elle passe par une série d’équivalences, allant de la pensée au calcul. Pour être très clair, nous proposons de figurer le raisonnement sur un tableau. L’analogie cerveau-machine (ligne 2) est l'aboutissement d'une série d’équivalences qui assimile la pensée au calcul (ligne 1). Nous les notons par les signes ≡ qui signifient "être analogue à", ou "être équivalent à".

L’analogie se forme de la manière suivante : le cerveau produit la pensée, qui est du calcul ; le calcul est reproductible par des machines et donc le cerveau est comme les machines calculantes (computantes). Puis, de la comparaison, on est passé à l’affirmation vers le milieu du XXe siècle. Le cerveau humain a été considéré comme une machine computante selon la thèse dite de « Church-Turing » énoncée à partir des années 1950. Cette analogie peut s’exprimer sous forme d’un syllogisme. La machine calcule, or le cerveau calcule, donc le cerveau est une machine computante. Ce syllogisme, évidemment, n’est pas concluant.

Comme cela avait déjà été le cas dans les siècles précédents pour le corps et les automates, on constate au XXe siècle un retournement sur l’homme de ses créations mécaniques au sujet du cerveau : produisant un artefact, l’ordinateur, on en est venu à considérer le cerveau comme identique à cet artefact. Cette thèse n’est nullement anodine sur le plan philosophique. C’est une simplification chosifiante de l’homme, une volonté d’assimilation de l’homme à un mécanisme. Une telle thèse est sous-tendue en arrière-plan par une option philosophique de type réductionniste et matérialiste.

Le rêve de vérité du philosophe s’est transformé en science-fiction computationniste montrant un homme se métamorphosant en machine à calculer. Sur un écran géant d’imagerie par résonance magnétique, on voit fonctionner les rouages digitaux de son « cervordinateur ». En parallèle, la pensée, constituée par une syntaxe logique, s’y inscrit en une myriade de symboles. Le symptôme y est assimilé à une erreur dans le programme exprimé en langage machine sur fond de circuits électroniques. Cette fiction n’a pas de justification scientifique, car la pensée n'est pas un calcul, le cerveau n'est pas un ordinateur et enfin la thèse réductionniste sous-jacente n'est pas justifiée.

La pensée n’est pas un calcul

Si l’on prend comme référence Boole, cet auteur croit avoir découvert la façon dont fonctionne la pensée. Pour ma part, je crois plutôt qu’il a créé une logique, un procédé de calcul. Il a effectué un gros travail de simplification, abstraction, synthèse, formalisation, qui aboutit à créer une nouvelle forme de logique. Nous avons indiqué les procédés nécessaires pour obtenir les expressions algébriques chez Boole afin de montrer le mouvement de conceptualisation complexe et ingénieux qui a permis d’aboutir à une syntaxe manipulatoire, un algorithme. Il met en jeu le rapport des classes via des opérations qui portent sur les critères de leurs éléments. Autrement dit, ce qui est donné pour être une découverte (de la nature, de la pensée ou de l’esprit) est plutôt la création d’une nouvelle forme de logique.

Dans le computationnisme, il y a une assimilation de toute la pensée à l’un de ses aspects : le calcul. La pensée dans sa complexité et sa multiplicité est rapportée à une computation. Le calcul numérique tel que nous le connaissons aujourd'hui a été et est encore une manipulation d'objets matériels selon des règles définies. Citons Jean-Gabriel Ganascia à ce sujet : "Qu'il se soit ensuite étendu à un décompte mental, avec ou sans support matériel, ou à des programmes informatiques exécutés automatiquement, sans présence humaine, le calcul n'en procède pas moins d'une combinaison réglée de symboles qui peuvent éventuellement être remplacés par des objets du monde matériel comme des cailloux" ("Alan Turing, du calculable à l'indécidable", interstices.info, 2004). C'est une activité réglée que l'on peut à peine assimiler à la pensée conceptuelle.

Il est donc encore plus étonnant de prétendre y ramener la pensée en général, et par là négliger les formes multiples qu’elle peut prendre. Il faut dire que l'unification des activités représentationnelles et cognitives dans la pensée est encouragée par la langue qui propose des termes globalisants (pensée ou esprit) pour désigner des processus divers. Il y a là un piège (langagier et culturel) sous forme d'une catégorie (l'esprit ou la pensée) abusivement unificatrice.

L’argument sous-jacent pour justifier cette généralisation serait que, en sa forme la plus basale, native, la pensée serait calcul. Ceci n’est certes pas démontré. Ce que l’on connaît des processus cognitifs ramenés à leur forme la plus simple, la plus élémentaire, ne se laisse pas énoncer dans une forme logique et encore moins dans une algèbre ou un calcul. Ce qui pourrait y être rapporté et s’en rapprocher le plus, ce sont les capacités d’ordonnancement propres à l’espèce humaine, mais elles ne sont pas logiques.

Nous ne critiquons pas l’idée de chercher une structure sous-jacente à la diversité des phénomènes mentaux. C’est dans l’esprit du logicisme et du structuralisme. Les deux inconvénients sont d’une part l’orientation logico-mécaniste de ces recherches et d’autre part l’extension à toute la pensée. Le rêve de trouver derrière certaines formes de pensée une structure n’est pas critiquable en soi. Ce qui l’est, c’est la généralisation abusive et sans distance de cet aspect et le rabattement sur le logico-syntaxique en éliminant le sens (les aspects sémantiques et conceptuels).

En effet, autre erreur du computationnisme, le rabattement du conceptuel sur le syntaxique. Selon nous, la pensée est un mixte entre la signification (signifié, sens, contenu sémantique, concept, etc.) et des formes syntaxiques (signifiants linguistiques, symboles mathématiques, schémas dessinés, schèmes sonores, etc.), à quoi s’ajoute le lien à la réalité (dénotation, référent, vérité empirique, etc.). Si on isole les formes syntaxiques et qu'on les fait fonctionner de manière autonome, on n’a donc plus affaire à la pensée en tant que telle, mais à un aspect partiel, un de ses composants. Les machines calculantes fonctionnent selon des syntaxes réifiées. L’homme peut aussi le faire, mais, dans ce cas, il ne pense pas, il manipule des symboles, des marques ou des objets (comme lorsqu’il se sert de ses doigts ou d’un boulier).

Même dans le cas du calcul, il est erroné de croire que l’algorithme et la conceptualisation qui a permis d’y parvenir sont équivalents. Pour aboutir à cet algorithme, il a fallu une conceptualisation complexe qui en diffère et ne lui est pas réductible. Donnons comme exemple de cette différence le produit logique de Boole (l’addition des critères). Il ne donne pas l’addition des classes, mais leur intersection. L’algorithme de calcul obtenu n’a pas grand-chose à voir avec le processus conce1ptuel qui a permis de l’obtenir.

3. Le cerveau n'est pas un ordinateur

Les ordinateurs sont fabriqués pour reproduire

Nous contestons le point de vue étroit impliqué par la thèse computationniste. Concernant les ordinateurs et leurs performances, l’ensemble de la situation n’est pas prise en compte et la succession réelle des événements est négligée. La situation globale à considérer est la suivante : le cerveau produit divers types de pensées. Ces types de pensées permettent de construire une machine qui reproduit du calcul. Donc, en réalité, la machine reproduit quelque chose qui existe déjà, le calcul. En admettant que l’on néglige le premier aspect, qui est le contexte large, on ne peut négliger le second qui est le centre de ce dont on parle. Les ordinateurs reproduisent du calcul.

À partir de ce fonctionnement calculant, on peut leur faire effectuer différentes tâches dont certaines sont d'imiter certains comportements humains. Dans ce cas, la machine produit ce pourquoi elle a été programmée. Le raisonnement béhavioriste de comparaison des produits factuels ne convient pas. Si la machine est conçue pour imiter certains comportements humains, forcément elle les imite (les reproduit). Si on s’en tient au résultat, il est identique. La différence tient à ce que le procédé de production n’est pas le même.

Le cerveau produit des pensées qui guident des comportements. La machine est fabriquée selon un plan et des commandes qui lui font reproduire des comportements. Elle reproduit selon un programme commandant ce qu'elle doit faire. La reproduction est déterminée. Ceci avait été noté avec lucidité et bon sens par Lady Lovelace, porte-parole de Babbage : « La machine analytique n’a pas la prétention de donner naissance à quoi que ce soit. Elle peut effectuer tout ce que nous savons lui ordonner de faire ». Pour un ordinateur, c’est la même chose. Il effectue les tâches qu’on lui a ordonné de faire. Un ordinateur exécute les instructions qui lui sont fournies. Ce qu'il effectue résulte de séquences d'opérations entièrement déterminées par son programme.

Le critère d’identité factuelle avancé pour prétendre que les ordinateurs pensent ne prouve rien, car il y a plusieurs manières d’arriver au même résultat. Imiter un comportement grâce à une série de commandes électroniques, c'est différent de disposer de modes de pensées qui aboutissent au même comportement. Si tous les chemins mènent à Rome, il y a plusieurs manières d'y aller, et constater la présence à Rome n'est pas suffisant pour laisser supposer un même cheminement.

Le cerveau est complexe

L’assimilation de McCulloch et Pitts des portes logiques électroniques à des neurones cérébraux est abusive. Le seul argument en faveur de cette assimilation est le potentiel d’action qui parcourt les axones des neurones. Mais cela ne suffit pas à faire que le cerveau fonctionne de manière digitale (par signaux discrets), car les manières dont sont repris les potentiels d’action sont très complexes et en particulier sont en parties analogiques, car ils passent par l’intermédiaire de synapses qui ont un fonctionnement à variation continue.

Le fonctionnement de l’ordinateur classique se fait en série, ce qui signifie un traitement successif des données. Il est certain que le cerveau ne fonctionne pas de cette manière. Enfin, dans un ordinateur, les opérations sont toutes programmées, elles ne s’effectuent pas spontanément (même si certaines sont déléguées à la machine). Le processus de fonctionnement dans un ordinateur est un processus de commande. À l’inverse, le neurophysiologique produit une grande part de son activité de manière spontanée par auto-organisation. La situation est inversée.

L’assimilation du cerveau à un ordinateur classique est erronée, puisque rien ne correspond. Ces erreurs, nous les attribuons au paradigme scientifique classique massivement mécaniste (séquentiel digitalisant), réducteur (analyse réduisant la complexité) et réductionniste (lutte pour imposer un matérialisme borné) et enfin la toute-puissance scientiste (au tout déterminé de Laplace répond le tout calculable de Hilbert).

Von Neumann, après les avoir adoptées, s’est vite rendu compte de la fausseté des thèses de McCulloch et Pitts. Il suggéra de les inverser et de chercher à perfectionner les machines logiques à partir des observations physiologiques. C’est ainsi qu’il a développé sa théorie générale des automates qui s’inspire de l’organisation des cellules vivantes et formalise la construction de machines complexes fiables à partir de machines plus simples et moins fiables.

4. Une volonté réductionniste abusive

Toute cette rhétorique d’assimilation du cerveau à un ordinateur classique n’a aucune justification scientifique. Elle s’inscrit dans un vaste courant idéologique matérialiste réductionniste cherchant à mécaniser l’homme et, dans le cas qui nous occupe, son cerveau et sa pensée.

La première des conséquences est la négation du niveau représentationnel chez l’homme. Il n’y a aucune représentation dans une machine, seulement des leviers mécaniques ou, pour les ordinateurs, des composants électroniques parcourus par des impulsions électriques selon un ordre défini. Si le cerveau de l’homme est identique à un ordinateur, il n’y a aucune raison de supposer un niveau représentationnel. C’est évidemment là l’enjeu majeur du processus idéologique sous-tendu par le matérialisme dur : amener à penser qu’il est inutile de supposer un niveau de complexité propre à l’homme qui dépasserait le niveau neurobiologique.

La deuxième conséquence est une négation de l’autonomie de la pensée. Si le représentationnel n’existe pas, la pensée n’a pas de domaine propre où elle existerait pour et par elle-même. Elle n’a pas d’autonomie, elle est hétéronome, c'est-à-dire qu'elle est déterminée par autre chose qu’elle-même (par le fonctionnement du cerveau-machine). Il s’ensuit une perte de la possibilité de choix selon un raisonnement.

Il existe des ordinateurs "inventifs". Par exemple, les machines non triviales de von Foerster (qui fonctionnent selon un déterminisme strict) ne sont pas prévisibles. La sortie actuelle dépend de l'histoire du système et des inputs précédents. Mais, cela ne résout pas le problème de l'autonomie de la pensée qui n'est pas une affaire de hasard. Ce qui est en jeu est l'autonomie ou l'hétéronomie de la pensée : se détermine-t-elle par elle-même, ou est-elle déterminée par autre chose qu'elle-même (son support neurosignalétique) ?

L'autonomie de la pensée n’est pas une liberté de hasard, d’indétermination, ou d’invention ex-nihilo, mais une possibilité de choix selon un raisonnement appuyé sur des principes. Si cela existe et pour que cela existe, il est nécessaire qu’il y ait un domaine autonome au sein duquel les idées peuvent jouer et interagir en tant qu’idées. La théorie du cerveau-machine manipulant la pensée-calcul implique une hétéronomie à la pensée qui devient un produit déterminé par son support (que celui-ci autorise du hasard ne change rien). Si c’était le cas, il faudrait en prendre acte, mais comme il est hautement improbable qu’il en soit ainsi, l’affirmation de cette thèse constitue une négation abusive de l’autonomie de la pensée humaine.

L’assimilation de l’homme à une machine a des conséquences morales et sociales majeures. Si l’homme est une machine, fut-elle informatique, on peut en disposer comme on veut. Les machines étant des choses déterminées, il n’y a pas de droit des machines. On peut les conditionner, les rééduquer, les programmer, les faire travailler, les utiliser. L’homme-machine est un homme chosifié, privé de sa spécificité humaine.

5. Le retour du rêve ?

Deux rêves se sont mêlés, celui des ingénieurs et celui des philosophes, pour former le cauchemar d’un homme-machine gouverné par un « cervordinateur ». Même si l’intention computationniste est scientifique, son résultat ne l’est pas. Il y a dans le computationnisme un excès inquiétant, une volonté réductrice et mécaniste sans fondement rationnel. C’est bien dommage, car l’idée de chercher la jonction entre la pensée et son support concret, amenée par les recherches de Leibniz à Turing, est une voie possible pour dépasser le dualisme. Cette voie royale a bifurqué vers une impasse, car elle est certes efficace techniquement, mais représente une butée philosophique de par sa volonté mécaniste. Qu’elle se délivre de son mauvais génie réductionniste, et la recherche pourrait continuer à chercher les clés de la pensée humaine de manière heuristique. C’est une évolution souhaitable de la science, évolution au-delà du paradigme classique vers le paradigme de la complexité.

L’homme et son cerveau ne sont pas des machines de type mécanique ou informatique, mais des systèmes biologiques hypercomplexes issus de l’évolution. Grâce à son organisation, le cerveau humain permet l’émergence du cognitivo-représentationnel, c'est-à-dire le passage d’un fonctionnement neurosignalétique à un fonctionnement émergent de type représentatif. Nous utilisons le terme de "cognitivo-représentationnel" pour déjouer le piège créé par la catégorie de "l'esprit" qui laisse supposer un dualisme substantiel. Si l’on admet cela, le rêve philosophique de mieux connaître la "pensée humaine" pourra reprendre, devenant, plus modestement, celui de cerner la multiplicité des processus cognitifs et représentationnels utilisés par l'homme.

Du côté des machines, le rêve de l’ingénieur a été relancé grâce à l’orientation suggérée par Von Neumann. Un tournant s’est produit dans les années 1960, avec d’une part le connexionnisme qui a permis de concevoir des machines autonomes non linéaires et, d’autre part, les progrès en intelligence artificielle. De même, les recherches pour reproduire certains processus cognitifs particuliers (et non la pensée en général) ont ouvert des voies plus réalistes et moins idéologiques. Elles ont eu des succès notables, comme par exemple, dans le domaine du langage.

Un artefact d'un genre nouveau pourra-t-il atteindre une organisation suffisamment complexe pour que l'on puisse supposer l'émergence en son sein d'une sensibilité, de représentations, d'un fonctionnement cognitif ? Ce n'est pas impossible, pour autant ce n'est certainement pas en cherchant à mécaniser-informatiser l'humain que la connaissance en ce domaine progressera, mais, tout au contraire, en complexifiant les artefacts.

Bibliographie :

Towards a Practice of Autonomous Systems Proceeding of the First Européan Conference on Artificial Life (1991), edited by : Bourgine P., Varela F., Cambridge-London, The Mitt Press, 1992.
Ganascia J.-G., "Alan Turing, du calculable à l'indécidable", interstices.info, 2004.
Juignet P., Histoire des idées psychanalytiques, Grenoble, P.U.G., 2006.
Lévi-Strauss C., Les structures élémentaires de la parenté. Paris-La Haye, Mouton, 1967.
Lévi-Strauss C., Anthropologie structurale II, Paris, Plon, 1973.
Segal J., Le zéro et le un, Paris, Syllepse, 2003.

JUIGNET Patrick

source : 

https://philosciences.com/philosophie-et-humanite/homme-humain-et-humanite/35-homme-machine-cerveau-machine