Human Compatible

"En el imaginario popular, la inteligencia artificial sobrehumana es una ola gigantesca que se aproxima y amenaza no solo los empleos y las relaciones humanas, sino la propia civilización. El conflicto entre humanos y máquinas se considera inevitable, y su desenlace, demasiado predecible. En este libro revolucionario, el distinguido investigador de IA Stuart Russell sostiene que este escenario puede evitarse, pero solo si repensamos la IA desde sus cimientos.

Russell comienza explorando la idea de inteligencia en los seres humanos y en las máquinas. Describe los beneficios a corto plazo que podemos esperar, desde asistentes personales inteligentes hasta una investigación científica enormemente acelerada, y expone los avances en IA que aún deben producirse antes de alcanzar la IA sobrehumana. También detalla las formas en que los humanos ya están encontrando para hacer un mal uso de la IA, desde las armas autónomas letales hasta el sabotaje viral.

Si se producen los avances previstos y surge la IA sobrehumana, habremos creado entidades mucho más poderosas que nosotros. ¿Cómo podemos garantizar que nunca, jamás, tengan poder sobre nosotros? Russell propone que podemos reconstruir la IA sobre una nueva base, según la cual las máquinas se diseñan para ser intrínsecamente inciertas acerca de las preferencias humanas que deben satisfacer. Tales máquinas serían humildes, altruistas y comprometidas con perseguir nuestros objetivos, no los suyos. Este nuevo fundamento nos permitiría crear máquinas demostrablemente deferentes y demostrablemente beneficiosas."