Superintelligence

Le cerveau humain possède certaines capacités que les cerveaux des autres animaux n'ont pas. C'est à ces capacités distinctives que notre espèce doit sa position dominante. Les autres animaux ont des muscles plus puissants ou des griffes plus acérées, mais nous avons des cerveaux plus ingénieux. Si les cerveaux artificiels finissent un jour par surpasser l'intelligence générale humaine, cette nouvelle superintelligence pourrait devenir très puissante. De même que le sort des gorilles dépend aujourd'hui davantage de nous que d'eux-mêmes, le sort de notre espèce dépendrait alors des actions de la superintelligence artificielle. Mais nous avons un avantage : c'est nous qui jouons le premier coup. Sera-t-il possible de construire une IA germe, ou de concevoir autrement les conditions initiales, de façon à rendre une explosion d'intelligence survivable ? Comment réaliser une détonation contrôlée ? Pour approcher une réponse, nous devons parcourir un paysage fascinant de sujets et de considérations. Lisez ce livre et découvrez les oracles, les génies et les singletons ; les méthodes de confinement, les fils-pièges et le crime mental ; le patrimoine cosmique de l'humanité et le développement technologique différentiel ; la normativité indirecte, la convergence instrumentale, l'émulation de cerveau entier et les couplages technologiques ; l'économie malthusienne et l'évolution dystopique ; l'intelligence artificielle, l'amélioration cognitive biologique et l'intelligence collective.