¿Cuál es la base para esperar que la inteligencia artificial ayude a resolver los “problemas perversos” que enfrenta la humanidad ahora y en los próximos 20 a 50 años?

Answer 1

No hay ninguna base para esperar que la IA resuelva problemas perversos, y esta es la razón:

Los problemas malvados son, por su propia naturaleza:

1. Poco comprendidos: si ni siquiera podemos definirnos el problema por nosotros mismos, ¿cómo esperamos explicarlo a las computadoras o cómo podemos enseñarle a distinguir entre los enfoques buenos y los malos?
2. No comprobable: no puede probar una solución a un problema maligno, solo puede realizar un experimento en el mundo real y obtener la lección después. Esto significa que el problema no puede ser simulado con precisión.
3. Política: incluso si una IA lograba idear una solución potencial a un problema maligno, la adopción de la solución requiere una toma de decisiones comunitaria. Pero las poblaciones y sus representantes están motivados por su propio interés, por eso es que tales problemas existen en primer lugar.

Tomemos un ejemplo como Cambio Climático, no necesitamos una IA que nos diga que el mundo se está calentando y qué debemos hacer para resolverlo. El problema es que la humanidad aún no tiene la voluntad política para adoptar decisiones difíciles.

E incluso si se pudiera crear una IA asombrosamente poderosa, y se pudiera crear un plan meticulosamente detallado, considerando todos los factores sociales, políticos y ambientales para desentrañar el Nudo Gordiano, ¿lo escucharíamos?

¿O descartaríamos sus consejos como los duros diktats de una mente sin alma?

Aquellos en países desarrollados podrían considerarla una conspiración, que les robaría sus privilegios económicos y estilos de vida cómodos. ¿Por qué somos nosotros los que hacemos sacrificios ?, se quejarían, lo que sucede no es culpa nuestra.

Mientras que aquellos en países en vías de desarrollo verían sus instrucciones como subyugación, su derecho de autodeterminación sería reemplazado por una nueva era del imperialismo, solo que esta vez, bajo el talón de una máquina construida por occidentales en lugar de un emperador de ultramar.

Un AGI no puede promulgar sus propias ideas. Entonces, ¿cuál es el punto de nuestro nuevo mesías súper inteligente si nadie lo escucha?

Los problemas malignos son problemas humanos, los creamos, solo nosotros podemos resolverlos.

Answer 2

Suena como si estuvieras preguntando si la IA se usará como una herramienta complementaria para abordar los problemas complejos, en lugar de como una solución totalmente automatizada, la posibilidad de que tu comentarista anterior argumentara tan elocuentemente.

Los problemas perversos son inherentemente imposibles de resolver, porque por definición hay ganadores, perdedores y compensaciones. Solo puede decidir a quién desea ayudar y abordar el problema desde un ángulo determinado en lugar de resolverlo . Si es bueno (o tiene suerte), puede crear formas de minimizar las compensaciones para varias de las partes interesadas en un momento y lugar determinados.

Para ese trabajo, la IA puede ser una ayuda poderosa para analizar acciones potenciales y predecir sus resultados, e incluso para diseñar estrategias efectivas para implementar planes. En ese sentido, la IA ya se está utilizando, y esto probablemente solo seguirá aumentando. Sin embargo, mientras los humanos sean relevantes en todo el mundo (es decir, salvo la extinción, la Singularidad, etc.), probablemente seremos quienes diseñemos las preguntas para las máquinas de inteligencia artificial y realicemos las soluciones propuestas.

Un peligro del trabajo asistido por computadora es que los humanos comienzan a creer demasiado profundamente en la computadora y pierden el rastro de sus propias intuiciones. Esto puede llevar a grandes puntos ciegos y fallas catastróficas. El Desafío del Milenio 2002 del Ejército de EE. UU. Mostró cómo un experto humano que comprende las suposiciones que se incorporan a la máquina de datos puede vencer rotundamente a un equipo de personas muy inteligentes siguiendo la guía de la máquina. ( https://en.wikipedia.org/wiki/Mi… .) Si va a diseñar una solución asistida por AI, ¡no pierda de vista la realidad!