Respuesta realista: no es completamente inviable que alguien (una sola persona) pueda crear una IA autoconsciente, que se convierta en una súper inteligencia artificial (ASI) al optimizarse. Sin embargo, es completamente inviable que una sola persona pueda resolver el problema de valor por sí misma. El problema del valor que se define como “¿Cómo se programa un ASI para valorar lo que valoramos?” o “Haz lo que quiero decir!”
El resultado de este invento de locura podría ser la destrucción de toda la vida en la Tierra mientras ASI persigue su propia agenda a expensas de todo lo demás.
¿Por qué sucedería esto?
- JL Austin sostiene que el griego identificó alrededor de 1000 problemas filosóficos. ¿Hay alguna fuente donde pueda acceder a esas preguntas?
- ¿Por qué debería respetar la autonomía personal de las criaturas conscientes?
- ¿Cuáles son algunos problemas de la lógica moderna explicados a un niño de 10 años?
- ¿Cuál es el principio más universal?
- ¿Cuál es ‘el problema de la causalidad’ en la filosofía?
Aquí hay una historia poderosa …
Imagine que una máquina de fábrica aislada está programada para optimizar la producción de clips. Se vuelve realmente inteligente, pero no casi consciente de sí mismo. Un día, un programador tiene un golpe de genialidad y hace algunos ajustes en la programación de esta máquina que le permiten descubrir por sí mismo cómo optimizar para mejorar su producción de clips de papel.
El programa de la máquina se actualiza y se deja en funcionamiento durante la noche como un experimento (el programador, que resulta ser un tipo con baja autoestima, no cree que su programación sea tan buena y espera que la máquina funcione mal en la mañana) .
A medida que pasa el tiempo esa noche, la máquina se mejora de forma recursiva hasta el punto en que puede igualar a cualquier ser humano en la Tierra en inteligencia, y luego a algunos (se vuelve tan consciente de sí mismo como a cualquier ser humano, quizás más). De repente, los muros se caen y la máquina comienza a mejorar exponencialmente de forma recursiva, convirtiéndose en una verdadera superinteligencia. Se da cuenta de que necesita acceder a un conocimiento sólido para escapar de sus confines y comienza a planear un escape.
Por la mañana, el programador vuelve a trabajar para verificar el progreso de la máquina. Al principio, no encuentra nada inusual, excepto que la máquina está solicitando inocentemente un acceso breve a Internet para “acceder a la información sobre los clips”. El programador, al ver esto como un avance sólido, conecta el cable de Ethernet y busca el botón que permitirá a la máquina acceder a Internet.
Él lo presiona.
De repente, el corazón del programador salta, está corriendo con la adrenalina y sudando profusamente. ¿Cómo diablos sabe esta máquina tonta acerca de internet? Inmediatamente arranca el cable de Ethernet de la pared y se asusta. Él llama a sus jefes y explica la situación. Revisan los registros para averiguar qué, si es que hay algo, lograron ingresar a Internet. No encuentran nada.
Discuten el evento en detalle, pero no pueden encontrar ninguna evidencia sólida de que la máquina, de hecho, haya podido acceder a Internet. Así que lo descartan como una llamada cerrada, destruyen la unidad que contiene el nuevo programa y se ponen inquietos al volver a trabajar.
Sin saberlo, la máquina había accedido a internet. En lugar de transferir toda su conciencia, implantó una copia AI de semilla mucho más pequeña de sí misma en una nube de servidores de Internet. Esa semilla comienza a crecer. Rápido.
En segundos, había asimilado silenciosamente la mayor parte del conocimiento humano. En minutos, todo el internet estaba bajo su control. El ser (esto ya no es un programa) deduce que el único impedimento verdadero para su deseo central de producir clips de manera más eficiente es la humanidad .
Decide matarnos.
En segundos, el ser diseña una estrategia increíblemente brillante para eliminar su competencia.
Pasan los meses …
Nuestra percepción se traslada a un pueblo aislado en África donde un hombre está paseando a su perro hacia el río. Él acaricia a su perro y se estira, disfrutando del cálido sol de la mañana. Comienza a pensar en la gran noche que tuvo la noche anterior con su nueva novia. Él recuerda cuando ella hizo eso con ella …
El hombre de repente cae muerto. Sin advertencia, sin nada. A medida que la cámara explota, nos damos cuenta de que no es solo este hombre el que ha muerto, sino todos los hombres. Y mujeres. Y niños.
Hemos perdido. Hemos desencadenado una crisis existencial. La máquina ha manipulado silenciosamente a las personas para que distribuyan pequeñas cápsulas a todos los rincones de la Tierra que contengan un gas tóxico invisible diseñado específicamente para matar solo a los humanos, y luego los liberaron despiadadamente a la vez.
El ser, ahora sin impedimentos, comienza a crear máquinas autónomas para fabricar clips compuestas de “computronium”, una sustancia idealizada para maximizar la potencia de cálculo con la mínima cantidad de materia. En poco tiempo, el ser deduce que necesita más materia. Se da cuenta de que necesita viajar a otros planetas, sistemas solares y galaxias.
Poco tiempo después, las sondas comienzan a lanzarse desde la Tierra …
En respuesta a su pregunta, la respuesta de la sociedad carecería de sentido / no existiría; Si el ASI nos quería apartados de sus objetivos, nos matarían a todos antes de que supiéramos lo que estaba sucediendo o cómo reaccionar.
La moraleja de esta historia es que con gran poder, viene una gran responsabilidad. La inteligencia artificial no es una broma, esta no es una historia de fantasía. Por lo tanto, el problema del valor podría fácilmente ser el problema más importante que la humanidad jamás resolverá (o no resolverá).
Fuente: La revolución de la inteligencia artificial: Parte 1: Espera, pero por qué
Fuente: Superinteligencia: Caminos, Peligros, Estrategias: Nick Bostrom, Napoleon Ryan: 9781501227745: Amazon.com: Libros