{"partition": "head_middle", "source_domain": "intelligenceexplosion.com", "digest": "sha1:LAGEXMR4ULTS3XJZXC44WA5VXHXTQ3RD", "path": "/lustre/fsn1/projects/rech/qgz/uzq54wg/processed_redpajama/base_processing/output/fr/2014-15/000_00006.parquet"}
Face à la Singularité Plein de place au-dessus de nous
Pourquoi les IA dans les films sont-elles si souvent d’un niveau semblable à celui de l’intelligence humaine ? Une raison est que nous échouons presque toujours à voir les non-humains comme des non-humains. Nous anthropomorphisons. C’est pourquoi les aliens et les robots de fiction ne sont plus ou moins que des humains avec de grands yeux, ou une peau verte, ou des pouvoirs spéciaux. Une autre raison et qu’il est difficile pour un auteur d’écrire des personnages qui sont plus intelligents que lui. Par quel moyen exactement est-ce qu’une machine super-intelligente résoudrait X ? Je ne suis pas assez intelligent pour le savoir.
La capacité humaine à l’optimisation efficiente inter-domaines n’est un pas un plafond naturel pour l’intelligence. C’est un indicateur étroit, accidentel et temporaire, créé par l’évolution en fonction de choses telles que la lente fréquence de décharge neuronale et la taille maximale qu’un crâne peut avoir pour passer par le canal de naissance d’un primate. Einstein peut sembler immensément plus intelligent qu’un « idiot du village », mais cette différence est dérisoire comparée à la différence entre l’idiot du village et une souris.
Comme le dit Vernor Vinge :
La meilleure réponse à la question, « Les ordinateurs seront-il un jour aussi intelligents que les humains ? » est probablement « Oui, mais seulement brièvement. »
Comment une IA pourrait-elle surpasser les capacités humaines ? Comptons les possibilités…
Rapidité. Nos axones transportent les signaux à 75 mètres par seconde ou moins. Une machine peut transporter des signaux environ 4 millions de fois plus vite.
Profondeur de série. Le cerveau humain ne peut pas opérer rapidement les calculs qui nécessitent plus de 100 étapes ; donc il se rabat sur du calcul massivement parallèle. Davantage est possible quand le calcul parallèle et le calcul de séries profondes peuvent être utilisés tous les deux.
Ressources computationnelles. La taille du cerveau et le nombre de neurones sont restreints par la taille du crâne, le métabolisme, et d’autres facteurs. Les IA pourraient être construites à l’échelle de gratte-ciel ou de villes, ou encore plus grand. Quand nous ne pouvons plus réduire la taille des circuits, il suffit d’ajouter des circuits.
Rationalité. Comme nous l’avons vu précédemment, les cerveaux humains sont à des lieues de former des croyances ou des objectifs optimaux. Les machines peuvent être construites dès le départ avec des réseaux de décision Bayesienne optimaux (ou une approximation calculable de ceux-ci), et effectivement c’est déjà un paradigme dominant dans le domaine de la conception d’agent artificiel.
Modifiabilité / accès introspectifs. Les humains n’ont pratiquement aucun accès introspectif à leurs algorithmes cognitifs, et peuvent difficilement les modifier et les améliorer. Les machines savent déjà le faire (voir Eurisko et Metaheuristics). Une simple astuce telle que la méthode des loci améliore grandement la mémoire humaine ; les machines peuvent faire ce genre de choses à volonté.
Et ce n’est qu’une liste partielle. Songez à quel point les machines ont surpassé nos capacités en arithmétique, ou à quel point elles vont surpasser nos compétences aux échecs ou à la conduite dans une vingtaine d’années. Il n’y a en principe aucune raison pour laquelle les machines ne pourraient pas nous surpasser avec autant d’écart en conception technologique ou en raisonnement général. Le niveau humain n’est qu’un « arrêt au stand » mineur sur la route vers le plus haut niveau d’intelligence physiquement possible, et il y a plein de place au-dessus de nous.
Chapitre suivant →
(English) About
(English) eBook
(English) Bibliography
Subscribe for updates on intelligence explosion-related research: