Archives
18 mai 2015

«Un ordinateur calcule, mais seul l’homme crée»

Mathématicien et philosophe, Ronald Cicurel a participé au lancement du Blue Brain Project – qui visait à modéliser le cerveau humain – avant de s’en distancier. Car il en est persuadé: jamais une machine numérique ne reproduira les fonctions supérieures de notre cerveau.

Vous ne faites guère de promotion de vos livres. Pourquoi?

C’est une volonté de ma part. Disons que je tiens beaucoup à mon indépendance, même vis-à-vis d’un grand éditeur. Et puis mes idées sont à la fois assez complexes et peu conventionnelles.

Elles vont également à l’encontre du Human Brain Project, à l’œuvre ici même à l’EPFL…

J’étais dans l’équipe de départ du Blue Brain, qui a conduit au Human Brain Project, et je considérais le projet très intéressant. Je m’en suis ensuite écarté. Non seulement pour des raisons de fond, mais parce que sur la forme je ne suis pas convaincu du mélange entre industrie et recherche fondamentale (le terme «blue» vient du lien financier avec IBM, ndlr). Les contraintes économiques n’empêchent-elles pas de conserver une pensée indépendante? La question est pour le moins ouverte.

Ronald Cicurel, mathématicien et philosphe.

Scientifiquement, donc, vous n’êtes pas d’accord avec Henry Markram (l’initiateur du Blue Brain Project), qui voit le cerveau comme un supercalculateur?

Je respecte beaucoup Henry Markram, cependant je ne crois absolument pas que le cerveau soit un superordinateur digital. Il est cependant intéressant de constituer et traiter des bases de données aussi fournies que possible autour des connaissances sur le cerveau. Human Brain peut être utile, notamment en ce qui concerne certaines maladies neurologiques. Ce que je conteste, c’est qu’un ordinateur digital soit capable de reproduire les fonctions supérieures du cerveau. Comme la douleur, la conscience, l’identité corporelle, l’intuition, etc. Ce projet a avant tout été imaginé sur des bases techniques dans un contexte de marche en avant d’une toute-puissante technologie. Il faut d’ailleurs noter que les prétentions de départ ont déjà bien été revues à la baisse.

Quelle que soit la puissance de calcul de l’ordinateur?

Absolument. Vous avez dit le mot: même un supercalculateur ne fait que calculer, il ne réfléchit pas. Pour simplifier: notre cerveau est un organe, fruit de l’évolution, au fonctionnement essentiellement analogique. L’ordinateur digital, lui, est un mécanisme qui a été dessiné et assemblé et qui fonctionne de manière sérielle suivant un programme.

Ronald Cicurel, mathématicien et philosphe.

Et qu’est-ce que cela change?

Il existe une grande différence entre ressentir de l’amour pour une femme (ou un homme), et décrire cet amour avec des mots. Ce que vous éprouvez, vous ne pouvez le ressentir que de l’intérieur, aucune description verbale ne sera jamais fidèle, c’est autre chose. La syntaxe ne remplacera jamais la sémantique. L’ordinateur fonctionne de manière purement syntaxique. Pour simuler un cerveau de souris, vous commencez par le découper en petites lamelles. Depuis une trentaine d’années, on a une équation qui donne le fonctionnement électrique d’un neurone. Mais il s’agit d’un cerveau mort. Sans les fonctions supérieures, qui n’interviennent que lorsque le cerveau vit. C’est alors seulement que la complexité peut agir, alors se créent des émergences à des niveaux de plus en plus élevés jusqu’à générer la conscience ou la spontanéité. Des émergences que l’on ne peut simuler ou retrouver sur des simulations.

Et le pourra-t-on un jour avec l’évolution technique?

Certainement pas sur un ordinateur digital. Peut-il y avoir d’autres ordinateurs que digitaux? C’est une question encore ouverte, celle de l’hypercomputation. Le premier ordinateur (théorique) date de 1936 et de la description projective d’Alan Turing. Il a écrit un autre article en 1938, fruit de son travail de thèse, qui imaginait qu’à chaque fois que la machine était confrontée à quelque chose qu’elle ne pouvait pas faire, elle demandait son avis à un oracle. Et cet oracle ne pouvait pas lui-même être une machine.

Même aujourd’hui, un ordinateur ne comprend pas ce qu’il fait.»

Pourtant l’ordinateur n’est-il pas capable d’apprendre, de se corriger?

Oui, mais tout cela est mécanique, déterminé, programmé. Réversible, aussi. Vous pouvez programmer quelque chose et l’appeler peur, spontanéité ou tristesse, mais cela ne sera qu’une pâle imitation. Notre cerveau n’a jamais été construit. Il n’y a pas de plan initial. Il a évolué. En fonction de millions de contraintes et d’aléas intérieurs et extérieurs. Et il ne vit que par échanges d’informations et d’énergies avec son environnement. Il ne tourne pas en suivant un programme.

Ronald Cicurel, mathématicien et philosphe.

Vous allez donc à l’encontre de ce courant que l’on appelle le transhumanisme…

Les transhumanistes voient notre cerveau comme un hardware constitué de la matière cérébrale, et un software qui l’habite et que l’on devrait pouvoir extraire pour ensuite le réinjecter dans une machine digitale. C’est impossible. Hardware et software sont totalement intégrés.

Et le copier, comme une imprimante 3D le fait avec les objets?

Pour le copier, il faudrait pouvoir le «lire». Nous avons certes un code génétique. Mais nous sommes aussi des êtres uniques, avec beaucoup de phénomènes dits épigénétiques, avec des échanges et une relation perpétuelle avec notre environnement qui font ce que nous sommes. Et tout cela n’est pas programmable ou calculable.

Comme l’on dit, si le hasard était calculable, ce ne serait plus du hasard. Il est clair que le matérialisme scientifique n’apporte pas toutes les réponses.»

Les mathématiques non plus?

Les mathématiciens le savent bien. Pour tout système formel, il y a des vérités qui ne sauraient être démontrées par ce système. Prenez un bout de bois. Avec des équations et des mesures, vous pouvez décrire beaucoup de choses. Ses mensurations, sa densité, son poids, sa trajectoire; ce qui se passe dans le morceau de bois n’est pas significatif. Le cerveau, lui, doit être décrit en tenant compte que c’est un système interactif complexe où tous les niveaux hiérarchiques de complexité doivent être simultanément pris en compte. De plus les conditions initiales doivent pouvoir être mesurées. Le cerveau a ceci de particulier qu’il ne se retrouve jamais deux fois dans le même état. Même lorsque vous effectuez un simple pas, le cerveau anticipe ce qui doit se passer. Il génère continûment des hypothèses que les données sensorielles confirment ou infirment. Chacun peut le vérifier lorsqu’il grimpe sur un escalier roulant en panne. Quand vous en sortez, vous avez tout à coup une brève impression de déséquilibre. Parce qu’il se produit quelque chose ne correspondant pas à ce que le cerveau attend. Il construit la réalité en générant perpétuellement des hypothèses. Et lorsqu’il lui parvient une sensation sensorielle imprévue, il se dépêche d’en reformuler une nouvelle, vous laissant un instant de déséquilibre. Ainsi, il génère votre réalité sur la base de sa structure physique, et de son expérience accumulée.

En quelque sorte, chacun de vos mouvements implique votre vie entière.»

Vous le précisez, les ordinateurs et les robots font certaines choses mieux que nous…

Naturellement. Dès le moment où Henry Ford crée le travail à la chaîne, il permet à un robot de se montrer meilleur pour la répétition infinie d’une tâche toujours identique, préalablement programmée. Aujourd’hui, l’intelligence artificielle (IA) se développe d’une manière inquiétante, une profonde réflexion est nécessaire et elle ne se fait pas. Au contraire, on court en avant sans mesurer les risques énormes que l’IA pourrait entraîner. L’IA n’est pas l’équivalent de l’intelligence humaine. C’est une intelligence mécanique, implacable et froide qui suit un programme nécessairement réducteur.

Ronald Cicurel, mathématicien et philosphe.

Mais tout de même, les robots ou l’intelligence mécanique ne peuvent-ils nous être utiles?

Certainement si nous la dominons par la réflexion. Ce que je nie, c’est la possibilité de créer un cerveau humain à partir d’un ordinateur digital. Lorsque Kasparov se fait battre aux échecs par Deep Blue, ce n’est pas parce que le superordinateur créé par IBM est plus «intelligent» que lui. C’est en raison de sa capacité phénoménale et quasi instantanée à traiter de l’information dans de larges bases de données. Et si génie créatif il y a, il est dans les ingénieurs d’IBM qui l’ont conçu. Notre talent n’est pas dans le calcul, il est au-delà de tout cela. Récemment Elon Musk, co-fondateur de Paypal, ainsi que Bill Gates et Stephan Hawking ont publié des déclarations pour mettre en garde sur les risques qu’implique le développement sauvage de l’intelligence artificielle. Je pense qu’ils ont raison, non point parce que l’IA sera vraiment intelligente au sens humain, mais précisément parce qu’elle est mécaniquement stupide. D’abord, penser qu’une machine pourrait être plus intelligente que nous, c’est nous dégrader, ne nous voir que sous un angle mécanique. Et puis le problème, c’est que cette intelligence artificielle sera toute-puissante, puisera instantanément dans tout l’internet, fera des corrélations qui nous échappent. Mais restera incapable d’attention ou d’empathie, elle ne sera pas intelligente.

Que mettez-vous derrière le mot «comprendre»?

En construisant la réalité, le cerveau est soumis à certaines contraintes physiologiques qui s’expriment entre autres par la causalité, l’analogie, la non-contradiction, etc. Je comprends quelque chose lorsque je peux le relier (causalement ou par analogie) à autre chose que je connais déjà. Cela nécessite tout un tas de niveaux successifs d’abstractions. Repérer certaines similitudes, négliger des différences, associer des concepts… C’est ainsi que j’assimile une nouveauté dans mon univers, je comprends. L’ordinateur ne peut pas faire cela, il suit son programme. Comprendre est donc lié à la manière dont le cerveau humain construit la réalité.

Et cela nécessite-t-il la subjectivité?

Naturellement, la compréhension est subjective, comme toute la construction de notre réalité. Je comprends veut dire je recrée à ma manière avec mes connexions internes, mes liens, mes modèles.»

Et l’imperfection?

L’imperfection, elle est humaine, nous apprenons par essais et erreurs. Et c’est cette imperfection qui permet les grandes idées, les grandes découvertes. Beaucoup de grands scientifiques étaient des gens en marge, avec des traits de caractère assez particuliers, pas forcément très adaptés aux normes communes. Voilà une autre différence avec un ordinateur: il ne peut pas être imparfait. Même s’il a été créé comme tel, car il sera alors parfaitement imparfait en quelque sorte. C’est comme pour le hasard: vous pouvez programmer du pseudo hasard, mais alors ce n’en est plus vraiment. L’ordinateur, lui, est prévisible et réversible. Sa mémoire est inchangée, alors que la nôtre change en fonction du contexte à chaque fois que l’on se remémore un souvenir.

L’ordinateur n’est donc pas non plus un bon mathématicien?

Il est incapable de produire des théorèmes mathématiques intéressants, les mathématiques sont une activité humaine, c’est l’homme qui décide des théorèmes intéressants. Tout juste l’ordinateur peut-il éventuellement aider à les démontrer, lorsqu’il reste un nombre fini de cas à calculer. Et encore. L’homme doit pouvoir vérifier, car lui seul est le vrai créateur de notre réalité.

Texte © Migros Magazine – Pierre Léderrey

Auteur: Pierre Léderrey

Photographe: François Wavre