Superintelligence résumé ici se pose la question de savoir ce qui se passera une fois que nous aurons construit des ordinateurs plus intelligents que nous.
Il s’agit notamment de savoir ce que nous devons faire. Comment cela va fonctionner. Et pourquoi il faut s’y prendre de la bonne manière pour éviter l’extinction de la race humaine.
Matrix, Terminator, Iron Man – la liste des films dans lesquels une forme d’intelligence artificielle devient soudainement folle et tente de prendre le contrôle du monde est longue. L’idée existe depuis les années 50. Mais il semble que nous nous rapprochions d’un monde où les ordinateurs sont aussi intelligents que les humains, voire plus.
La question est de savoir à quoi cela ressemblera. Les machines seront-elles vraiment capables de se rebeller contre nous ? L’IA sera-t-elle intégrée dans des robots humanoïdes ? L’internet va-t-il se mettre à penser ?
Nick Bostrom appelle ce phénomène la superintelligence. Et alors que certains livres tentent de prédire ce qui se passera après que nous l’ayons créé, la superintelligence se préoccupe de déterminer ce que doit être le chemin vers ce phénomène pour qu’il joue en notre faveur.
Voici trois leçons sur l’état de l’intelligence artificielle pour vous montrer qu’il nous appartient à tous de faire de notre futur un avenir meilleur :
L’IA était autrefois limitée par le matériel, mais aujourd’hui, c’est surtout un problème de données.
Il existe deux façons différentes de concevoir des ordinateurs superintelligents.
La superintelligence doit être le résultat d’une collaboration mondiale, et non d’un programme gouvernemental secret, sinon nous sommes foutu.
Oubliez la boule de cristal poussiéreuse de votre grenier, ce livre vous donnera un aperçu beaucoup plus clair de l’avenir !
Leçon 1 : Au départ, l’IA était limitée par le hardware, aujourd’hui, il s’agit surtout de fournir suffisamment de données aux ordinateurs.
Après l’invention de la « machine de Turing » d’Alan Turing, premier appareil à suivre et à exécuter systématiquement des instructions de manière automatisée, (regardez The Imitation Game pour plus de détails, superbe film), le premier véritable ordinateur « numérique » a été achevé en 1946, depuis ce moment, les informaticiens se demandent comment faire pour que ces machines pensent réellement comme nous.
Le Dartmouth Summer Research Project on Artificial Intelligence a été l’un des premiers véritables ateliers dans ce domaine en 1956. Et même si les années suivantes ont donné quelques résultats, comme des machines résolvant des problèmes de mathématiques ou écrivant de la musique, l’IA a rapidement atteint ses limites. Le matériel ne suffisait tout simplement pas à traiter toutes les informations nécessaires à des tâches vraiment complexes.
Il a fallu attendre les années 80 pour que le hardware rattrape lentement son retard. Mais c’est alors que le développement des systèmes experts a donné naissance à la première véritable IA, qui, par exemple, pouvait diagnostiquer des voitures comme le ferait un mécanicien. Rapidement, l’information est redevenue le facteur limitant. Car avec suffisamment de matériel pour stocker, mais pas assez d’informations pour accéder, même les meilleurs systèmes experts ne pouvaient toujours pas battre les humains. Il a fallu plus de dix ans de développement à Deep Blue pour battre le champion du monde Garry Kasparov, par exemple.
Depuis les années 90, nous sommes devenus plus intelligents dans la façon dont nous construisons l’IA. Notamment en nous inspirant beaucoup plus des systèmes neuronaux du cerveau et de la génétique humaine. Aujourd’hui, l’IA a fait son chemin dans notre vie quotidienne, avec les smartphones et Google, par exemple.
Ce qu’il nous manque encore, c’est une IA capable, par exemple, de battre non seulement le meilleur joueur d’échecs, mais aussi le meilleur joueur de Jeopardy et de Scrabble. Nous construisons généralement des IA sur mesure dans un but précis.
Bostrom et d’autres experts s’attendent à ce que les ordinateurs soient aussi intelligents que les humains d’ici 2075. Donnez-lui encore 30 ans, jusqu’en 2105, et nous aurons une véritable superintelligence.
Leçon 2 : La superintelligence pourrait imiter ou simuler les humains, en s’appuyant sur la biologie ou la technologie.
Ce que nous faisons actuellement avec l’IA consiste principalement à apprendre aux ordinateurs à imiter la pensée humaine. Les ordinateurs utilisent la logique pour naviguer dans une mine d’informations, calculer des probabilités, puis prendre des raccourcis que les humains ne peuvent pas trouver pour imiter leur comportement – simplement plus rapidement.
Comme décrit ci-dessus, cela nécessite d’accéder à de nombreuses informations en temps réel, ce qui pose problème. Une autre solution consisterait à faire en sorte que les ordinateurs simulent le cerveau humain et ne se contentent pas de l’imiter. C’est ce qu’on appelle le WBE (whole brain emulation). Cela permettrait d’obtenir un ordinateur semblable à un enfant. Équipé d’informations de base sur le monde et capable d’apprendre le reste par lui-même. Pour y parvenir, il n’est même pas nécessaire de décoder l’intégralité du cerveau humain, il suffit de pouvoir le copier.
Cependant, cela nécessiterait de prendre de vrais cerveaux humains, d’en extraire les données et de les télécharger d’une manière ou d’une autre. Ça ressemble à Minority Report ? Eh bien, c’est aussi à peu près la distance qui nous sépare .
Leçon 3 : Si un programme gouvernemental secret invente la superintelligence en premier, nous sommes probablement foutus – nous devons tous travailler ensemble.
Tout comme il existe deux façons de faire de la superintelligence une réalité sur le plan technologique, il existe également deux façons socialement différentes de la développer.
La première ressemble beaucoup à ce que l’on voit dans de nombreux films : une unité ou un programme gouvernemental secret travaille derrière des rideaux fermés pendant des décennies, jusqu’à ce qu’il émerge avec une nouvelle pièce de technologie hautement supérieure. Vous savez, quelque chose comme la bombe A.
Dans ce scénario, un petit groupe produirait une seule et unique machine superintelligente. Cela donnerait à ce pays un avantage stratégique sur tous les autres – mais ce serait aussi un problème. Car si une seule unité existe, il suffit d’une paire de mains maléfiques pour anéantir toute notre espèce. Et si quelque chose tourne mal, il n’y a pas assez de gens qui savent comment le réparer.
La seule façon dont cela peut vraiment fonctionner est le deuxième scénario. Une collaboration mondiale pour développer progressivement une superintelligence, basée sur l’humanité travaillant ensemble comme un seul homme.
Un tel effort d’équipe permettrait de s’assurer que toutes les mesures prises sont les plus sûres. Car de nombreuses parties et le public contrôlent le projet, élaborant des règles de sécurité en cours de route. Ce n’est peut-être pas aussi rapide, mais c’est certainement plus sûr.
