He estado pensando en esto más y más últimamente, y empiezas a pensar en qué es la inteligencia como un principio.
Piense en la diferencia de inteligencia entre nosotros y nuestros parientes primates más cercanos. Todo el lenguaje, la cultura, el arte, la tecnología que tenemos y solo alrededor del 2 por ciento de nuestros genes son diferentes. Ahora, ¿qué pasa si tomas ese 2 por ciento en la misma dirección en que somos más inteligentes que los chimpancés, pero nos lo aplicas? ¿Qué podrían hacer estos seres súper intelectuales? (Este es el argumento de Neil Degrass Tysons para los alienígenas inteligentes, pero también funciona aquí).
Es divertido fantasear con lo que una IA súper inteligente podría hacer mejor o diferente que nosotros, pero no creo que debamos quedar atrapados en los sueños. Porque si la máquina es inteligente como pensamos que es, entonces tendrá ideas que no podríamos entender, por diseño.
El mono no se consiente con nuestro espectro político, le importa el nuevo iPhone o la nueva canción de Taylor Swifts. ¿Por qué deberíamos suponer que nosotros y la máquina superinteligente son diferentes?
- ¿Cuál es el mejor para viajes interestelares: un motor de fusión con chorro de fuerza o un cohete de propulsión antimateria?
- ¿Reemplazarán los robots a los humanos como la especie dominante en la Tierra en el futuro lejano?
- En el futuro, ¿habrá alguna fuente de ingresos para los estudiantes de ciencias de la computación?
- ¿Cuáles son sus opciones en términos de carrera para alguien a quien le gusta interactuar con las personas para ayudar y quiere ganar mucho dinero al mismo tiempo?
- ¿Se puede ver a Dios como un objetivo final de la humanidad? Es inmortal, lo sabe todo, etc. Eso es lo que los humanos intentan alcanzar un día.
(Debo mencionar que este es un punto de vista que solo comparto parcialmente. Hay muchas otras explicaciones al argumento, como límites de inteligencia, límites de comprensión y más que serían más adecuados para comentarios que la publicación).