Philosophie Stephen HAWKING

Les dangers de l’intelligence artificielle : le syndrome WALL e

20130801 usa 2013 192Tout récemment, Stephen HAWKING, le brillant scientifique britannique, a mis en garde la communauté contre les dangers  que pourrait un jour représentée l’intelligence artificielle. Il n’est pas le seul, Bill GATES, que je ne présenterais pas ici, a fait une déclaration similaire.

Nous pensions, jusque-là, que les robots incontrôlés, menaçant leur créateur, n’existaient que dans la science-fiction, TERMINATOR, MATRIX, autant de scénarios faisant la part belle aux électrons intelligents, autonomes, prenant le contrôl

e de l’humanité pour mieux l’anéantir. Pourquoi s’inquiéter de ce que nous pensons clo  isonné dans le cervea  u imaginatif des écrivains ? Après tout, un ordinateur n’est qu’un circuit électrique qui ne réalise que les opérations prévues par son programmateur. Et l’homme ? N’est-il pas aussi une machine lui-aussi, une machine biologique ?

Le libre-arbitre

Beaucoup, depuis Aristote, ont pensé que le libre-arbitre n’existe pas. Tout est déterminé, mécanique. LAPLACE, le grand mathématicien de Napoléon, pensait ainsi que si un démiurge connaissait tous les paramètres de l’Univers aujourd’hui, il pourrait, par le calcul, en déduire l’Univers de demain. Même chose avec NEWTON qui, par la mécanique qui porte aujourd’hui son nom, calculait la position des astres, telle qu’elle serait demain. Il en va de même avec la chimie, sans surprise, le mélange d’un composé A et d’un composé B donnant toujours, depuis la nuit des temps, le composé C. Et encore avec l’électricité : une ampoule branchée sur les deux pôles d’une pile s’allume, elle n’a pas le choix, les lois de l’électricité étant immuables.

Notre cerveau n’est qu’un vaste réseau de synapses qui communiquent avec de l’électricité et de la chimie. Toute idée qui surgit devant nos yeux a été générée par une impulsion électrique, elle même commandée par la chimie de notre corps. D’où la question qui a taraudé l’humanité depuis ses origines : l’homme est-il libre ? Dispose-t-il du libre-arbitre où n’est-ce qu’une illusion ?

La philosophie, sur cette question, s’est partagée en deux :

  • d’un côté, les persuadés de notre impossible liberté : Aristote, Spinoza, Sade, Nietzsche et d’autres;
  • de l’autre, les excités du libre-arbitre : l’église, Rousseau, Sartre ; pour ne citer qu’eux. Pourquoi l’église ? Il est bien évident que l’absence de liberté nous rend irresponsables, non-comptables de nos agissements le jour du jugement dernier. Il faut que l’homme soit libre pour être condamnable. L’église tenant son pouvoir de la crainte inspirée par l’au-delà, elle a un besoin vital de postuler le libre-arbitre pour garantir son autorité sur les âmes des pauvres pécheurs. Sade avait bien compris cette logique, s’autorisant tous les excès : si nous ne sommes pas libres, nous ne sommes pas condamnables, alors il n’y a aucune raison de s’imposer des limites morales. Sartre, à l’opposé, pensait que l’homme, contrairement à l’animal, est totalement libre, que son existence précède son essence, c’est-à-dire qu’il peut choisir d’être garçon de café ou plombier, contrairement au cheval, par exemple, qui sera seulement cheval.

Qui a raison ? Les deux. L’homme (et la femme) sont grandement programmés par la nature : une femme qui se maquille répond ainsi aux exigences que lui impose son logiciel interne, le logiciel de l’espèce enfoui dans son inconscient, et qui veut, en priorité, garantir la continuité de l’espèce.

Mais l’homme est également libre, par exemple de faire des actions qui heurtent les fondamentaux de ce logiciel, comme, par exemple, :

  • de se suicider (exemple donné par ROUSSEAU dans de l’Inégalité parmi les hommes) ;
  • ou décider de ne pas avoir d’enfant…

L’homme subit sa nature mais peut la contrarier.

L’homme est donc partiellement libre. Mais comment cela est-il possible ? Comment une machine biologique, qui répond aux lois de la chimie et de l’électricité, une machine faite d’atomes peut-elle être (partiellement) libre ? En voilà une bonne question !

L’émergence

L’émergence est une propriété nouvelle qui apparaît avec la complexité. Prenons un exemple : l’hydrogène (en fait le dihydrogène) est un gaz à température ambiante extrêmement inflammable. L’oxygène est également un gaz, un gaz comburant. Si on mélange les deux composés on peut obtenir de l’eau (H2O). Si on examine ce nouveau composé, on se rend compte qu’il a des propriétés nouvelles, qui sont apparues avec le mélange : il est liquide à température ambiante, n’est plus inflammable, ni comburant, mais c’est un solvant incomparable. La complexité permet donc l’apparition de propriétés nouvelles (et la disparition d’anciennes).

La liberté de l’homme serait-elle une propriété émergente de l’extrême complexité de son cerveau ? De la même manière, l’apparition de la conscience est-elle liée à un degré de complexité. L’homo sapiens (l’homme qui sait) a le cerveau le plus développé. « Sait-il » pour cette raison ? La vache, qui se contente de brouter, dispose peut-être d’une conscience, mais probablement embryonnaire. Le chat, un carnivore qui a besoin d’être fin stratège pour se nourrir et donc de développer des ramifications supplémentaires dans son cerveau, serait-il un peu plus conscient ? En d’autres termes, la conscience et et la liberté seraient-elles corrélées à la complexité neuronale ?

Une hypothèse séduisante. Et si cette hypothèse était valable pour les machines ? Comme le disait Alan TURING, les machines ne pensent pas comme l’homme, leur logiciel étant organisé différemment. Mais elles pensent !

Voilà ce que Stephen HAWKING redoute. Au XIXème siècle, ils étaient quelques’uns au service de la science, une poignée à réfléchir à de nouveaux concepts, de nouveaux outils. Aujourd’hui des millions d’humains travaillent chaque jour à complexifier les circuits électroniques. Le progrès n’est plus linéaire mais exponentiel ! A ce rythme, avec la mise en réseaux de systèmes informatiques, nul ne sait ce qui peut émerger. Il existe un seuil de complexité au-delà du quel apparaît autre chose, quelque chose qui n’existait pas sous ce seuil : la liberté ? L’autonomie ? la conscience ?

La question du progrès

Lorsque les temps étaient encore durs, le progrès était au service de l’homme. Il le libérait des tâches pénibles et l’homme pouvait ainsi se consacrer au temps libre et à la réflexion. L’invention de la roue, de la charrue, de l’irrigation répondaient tous à cette logique.

Aujourd’hui cette logique n’a plus cours, comme l’avait bien vu le sociologue allemand Max WEBER. On progresse, de plus en plus vite, on complexifie les téléphones, toujours plus de pixels, de mémoires, de cœurs… Mais pourquoi ? Il est évident que ce nombre croissant de mégabits n’a pas vocation à libérer l’homme d’une tâche pénible. Le progrès s’auto-justifie. C’est le progrès pour le progrès. La raison est à trouver dans notre système libéral : si Samsung ne sort pas de « l’innovant », du « plus moderne », Samsung est sûr d’une chose de sa mort.

Bref, on progresse mais on ne sait pas pourquoi, et on ne sait pas vers quoi…

Le syndrome Wall-e

Les machines, on l’a vu, ont libéré l’homme. Tellement libéré, d’ailleurs, qu’il a fallu inventé le sport, cet effort inutile, l’effort pour l’effort, juste pour évacuer le trop d’énergie économisée. L’obésité, les maladies cardio-vasculaires ont été les premiers syndromes de l’excès de progrès. Les premiers ?

Si l’on combine la libération totale de l’homme des tâches pénibles et l’émergence de l’indépendance des machines conscientes, on obtient le monde décrit dans ce superbe dessins animés WALL-e de Walt Disney. Une humanité déchargée de tout, de sa gestion quotidienne, mais aussi de son avenir. Tout est géré par les machines. Sont mis à disposition des individus, des amis virtuels qui leur font la conversation, qui occupent leur temps libre. L’homme n’a plus à se déplacer et perd progressivement sa motricité, devient obèse. Même de la réflexion l’homme a été débarrassé. Bien entendu, dans un tel monde, l’homme perd progressivement son humanité. Plus de relations sociales, plus de choix possibles, plus d’émotions… L’homme est littéralement branché sur la machine, il en devient un périphérique, puis un virus, qu’il convient d’éliminer.

Voilà le monde de WALL-e, le monde redouté par Stephen HAWKING et Bill GATES, un monde où l’homme a perdu son humanité, le désir de se lever le matin pour travailler, un monde où la machine est devenue autonome, intelligente et où elle voit progressivement l’homme devenir une menace, un virus qu’il convient d’éliminer.

Publicités

(2 commentaires)

Laisser un commentaire

Choisissez une méthode de connexion pour poster votre commentaire:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s