C) Les dangers de l'IA

Comme nous l'avons vu, même si l'IA progresse lentement, de nombreux scientifiques s'inquiètent des conséquences ce cette évolution. 

I. La domination de l'homme par la machine

Dans une lettre ouverte publiée par le Future of Life Institute (FLI) plus de 700 scientifiques et chefs d'entreprises, tels que Stephen Hawking et Elon Musk ont lancé un appel pour demander que les futures avancées dans le domaine de l'intelligence artificielle bénéficient en priorité à la société.

Ils estiment qu’il «existe désormais un large consensus selon lequel les recherches dans l'intelligence artificielle continuent à progresser et que l'impact sur la société va probablement s'accroître », « Etant donné le grand potentiel de l'intelligence artificielle il est important d'étudier comment la société peut profiter de ses bienfaits, mais aussi comment éviter ses pièges »

1.1 L'avis de Stephen Hawking

L'astrophysicien britannique Stephen Hawking met en garde contre le développement de l'intelligence artificielle. Il estime que ce type de technologies peut évoluer rapidement et dépasser l'humanité, ce qui pourrait signifier la fin de l'humanité.

Dans un entretien du 2 décembre 2014 accordé à la BBC, il a déclaré que "les formes primitives d'intelligence artificielle que nous avons déjà se sont montrées très utiles. Mais je pense que le développement d'une intelligence artificielle complète pourrait mettre fin à la race humaine"; de plus "une fois que les hommes auraient développé l'intelligence artificielle, celle-ci s'améliorerait seule et de plus en plus vite"

Les humains, limités par une lente évolution biologique, ne pourraient pas rivaliser et seraient dépassés." poursuit M.Hawking. 

Stephen Hawking reste toutefois favorable aux nouvelles technologies de communication. Il a notamment été un des premiers à s'être "connecté" aux débuts d'Internet. Mais "Internet a apporté à la fois des dangers et des bénéfices".

1.1 L'avis d' Elon Musk

Elon Musk, fondateur de Spacex et Tesla Motors ainsi que cofondateur de PayPal,  a également mis en garde contre les dangers de l'intelligence artificielle. Lors du centenaire du département Aéronautique et Spatial du Massachusets Institute of Technology qui s’est déroulé en octobre 2014, il a indiqué que « nous devrions faire très attention avec l’intelligence artificielle. Si je devais imaginer quelle serait notre plus grande menace existentielle, c’est probablement ça. Nous devons donc nous montrer très prudents » ; « Je suis de plus en plus enclin à penser qu’il devrait y avoir une supervision régulatrice, peut-être aux niveaux nationaux et internationaux, juste pour être certains que nous ne faisons pas quelque-chose de stupide ».

Stephen Hawking : "L'intelligence artificielle incarne la fin de la race humaine"

The Future of Life Institute

FLI catalyzes, supports, and disseminates research on questions at the foundations of physics and cosmology, particularly new frontiers and innovative ideas integral to a deep understanding of ...

http://futureoflife.org/misc/open_letter

Lettre ouverte publiée par le Future of Life Institute (FLI)

II. Le piratage du cerveau biologique

2.1 lire le cerveau

Selon le docteur Laurent Alexandre "notre identité est fondée sur notre cerveau, nous sommes ce qu'est notre cerveau". Avec le développement des technologies NBIC (Nanotechnologies, Biologie, Informatique et Sciences cognitives, le premier des danger est la lecture du cerveau était  considéré jusque là comme un sanctuaire. Bien que "l'intelligence forte n'existe pas encore", les objets connectés qui nous entourent sont déjà des extensions" de notre corps et de notre cerveau. Le séquençage ADN, les enregistrements cérébraux, peuvent fournissent des informations sur notre structure mentale et psychologique. De même, les recherches effectuées sur internet, les données sur les réseaux sociaux, les mouvements des yeux dans des Google Glass, sont des sources de données sur le fonctionnement de notre cerveau. 

2.2 Modifier le cerveau

Après la lecture des données cérébrales, vient la manipulation du cerveau. Cela commence par les prothèses électroniques qui donnent un accès à notre intimité cérébrale. Les implants pour mieux entendre, mieux voir, lutter contre Parkinson peuvent être piratés. "en hackant ces dispositifs, on peut donner des hallucinations à quelqu'un" indique Laurent Alexandre avant de rappeler que "chez l'animal, on commence à modifier, supprimer des souvenirs".

2.3 Vers la fusion du cerveau biologique et de l'intelligence artificielle.

Laurent Alexandre affirme que "Google est le vrai, le seul neuro-révolutionnaire". Selon lui, son objectif est clair: la fusion de la neurologie et de l'intelligence artificielle. Mémoire de substitution à travers le Cloud, augmentation des sens par la robotique, puis pensée "hybride ou augmentée. et enfin, au bout du compte, la possibilité d' "uploader le cerveau dans la matrice".

au 21 eme siecle la neuroscience et l'informatique sont en train de fusionner et un continuum et en train de s'établir entre le cerveau et l'intelligence artificielle, l'IT et les neurosciences. A terme, il n'y aura pas de différence entre l'intelligence biologique et l'intelligence artificielle.

l'Idéologie transumaniste qui règne dans la silicon vallée notamment chez Google. Idéologie qui tient en 3 propositions : euthanasier la mort, developper une intelligence artificielle forte et interfacer l'intelligence artificielle forte avec avec le cerveau biologique.

Cette perspective qui donne le frisson se rapprocherait à grand pas. Laurent Alexandre en est convaincu: la connaissance du cerveau "va progresser très vite" vers la "transparence cérébrale totale". Au point qu'a terme, "il n'y aura pas de différence entre l'intelligence artificielle et l'intelligence biologique" et que la "cyber-sécurité pourrait devenir le premier des droits de l'homme".

Les assises 2014 - "Hacker le cerveau : la menace ultime ?" par le Docteur Laurent Alexandre