Aquí está mi línea de pensamiento:
- AI se basa en perfeccionarse constantemente a sí mismo.
Entonces, imagina una computadora con AI versión 1.0.
Eventualmente, “entiende” que debería actualizarse,
y construye una computadora más grande, AI v 2.0. - Después de que v 2.0 esté en funcionamiento, decide sobre v 3. Pero construir una nueva computadora física lleva tiempo y, mientras tanto, el sistema sigue optimizándose.
- Muy pronto, mucho antes de que la versión 3 esté lista, se da cuenta de que tiene un plan mejor para la versión 4. Así que abandona la versión 3.0 para la versión 4.0 y comienza a construir la versión 4.0.
- El algoritmo mejora y mejora, pero no puede mantenerse hasta que la implementación física esté lista, por lo que, aparentemente, el sistema está condenado.
Esta es mi respuesta a las profecías de AI que conquista el Universo, como “hará que los robots auto-replicantes vuelen”. En mi opinión, el apetito por los cambios no lo permitirá.