¿Puede la tecnología llegar a ser demasiado compleja como para que la civilización que la creó ya no pueda entenderla? ¿Cómo pueden los humanos retrasar o prevenir tal resultado?

Answer 1

Buena pregunta, pero eso no es posible.

Este es el ciclo de vida de la tecnología:

desconocido -> ciencia ficción -> tecnología compleja -> conocimiento común

La ciencia compleja, cuando se usa, enseña y aprende regularmente, se convierte en una “segunda naturaleza”. Luego pasamos a algo más complejo, que a su vez se vuelve redundante y eventualmente es una segunda naturaleza. Este ciclo de evolución tecnológica continúa.

Los escritores de tipos de ayer son una máquina demasiado simple para los niños de hoy. En aquel entonces, el “aprendizaje automático” era ciencia ficción, hoy es ciencia compleja, mañana será una segunda naturaleza y eventualmente pasaremos a algo más complejo que hoy se desconoce. Descubrir el hecho de que la tierra es redonda cuando la mayoría pensaba que era plana era una ciencia realmente compleja en aquel entonces. Hoy en día, los niños pueden explicar la mayoría de los fenómenos científicos que se descubrieron en los últimos cientos de años, que eran una parte de la ciencia realmente compleja. La mayoría de nosotros entendemos cómo funcionan hoy los motores de vapor y los de automóvil. Imagina los días de los carruajes a caballo. Aunque hoy en día los chorros de aire y los motores criogénicos son maquinarias complejas que impulsan una nave espacial, muy pronto serán “conocimiento común” y ya habríamos descubierto algo más complejo, que probablemente sea ciencia ficción hoy en día.

Answer 2

Ya hay muchas formas de tecnología tan complejas que nuestra civilización actual no las comprende completamente.

Un ejemplo muy pertinente es el mercado financiero. Nadie entiende completamente cómo funciona, por lo que, incluso con los esfuerzos colectivos de millones de personas que trabajan juntas, no podemos evitar los choques del mercado o predecir perfectamente cuándo ocurrirán, y nuestros gobiernos y corporaciones no pueden reaccionar de manera óptima para minimizar el impacto. dañar.

Otro ejemplo mucho más simple es la bicicleta. La física completa de cómo funcionan las bicicletas no se comprende completamente. Parte del ciclo de desarrollo de las nuevas bicicletas requiere un simple ensayo y error, porque no podemos predecir cómo funcionarán ciertos cambios en ciertas partes.

Hay otros ejemplos como la bicicleta, donde inventamos una tecnología a través de retoques y prueba y error hasta obtener algo que funciona, sin entender exactamente cómo funciona, y solo descubrir esa parte mucho más tarde. Y en algunos casos, al igual que con la bicicleta, todavía no lo hemos resuelto por completo, incluso mientras seguimos usándola.

Answer 3

Varias de las respuestas aquí parecen injustificadamente irónicas en tono. Sin embargo, Adam hace un comentario revelador sobre los mercados financieros, y todos vemos que la tecnología en sí misma está teniendo un impacto claramente difícil de controlar en el medio ambiente. Así que este es un problema serio. ¿Pueden las tecnologías específicas, a saber, los sistemas informáticos funcionar de forma desordenada y ganar conciencia al pensar en Kurzweil? No lo sé. Pero los efectos existenciales de la tecnología son enormemente impactantes. Aquí en Tokio, y en todo el mundo, todos estamos pegados a pantallas pequeñas o grandes, ¿y entendemos lo que esto nos está haciendo? Los jóvenes olvidan cómo era la vida pre-online. Personalmente, a veces lo extraño. Acabo de leer un libro (!) El último teorema de Fermat de Singh, y la experiencia es muy diferente de navegar al azar a través de Salon y Huffington y el NYT.

Entonces, aunque es difícil imaginar que las computadoras realmente adopten identidades y se unan para conquistar el mundo, puedo visualizar un tipo de transformación humana de segundo nivel que ya se está produciendo como resultado de la constante intrusión de dispositivos y Ethernet. Puede que no sea “malo”, pero puede estar convirtiéndonos, de alguna manera, en “extraterrestres”.

Answer 4

Nadie entiende toda la pila de tecnología. Incluso en su época, los arqueros no necesariamente sabían cómo lanzar flechas. La tecnología se basa en la división del trabajo. Todo el mundo aprende parte del sistema.

La gente está encontrando usos para los nuevos sistemas de “aprendizaje automático” donde la solución al tipo de problema evoluciona y mientras entendemos cómo evolucionar una solución, no entendemos cómo funciona la solución en sí misma. Entendemos cada una de las piezas, pero no cómo funcionan juntas para lograr el resultado.

Eventualmente, es posible que tengamos un sistema de máquina que realmente no entendemos, que luego produce otro sistema de máquina que en realidad no entiende. En ese momento, ningún ser humano entenderá la solución o cómo producirla.

Realmente no importa si lo entendemos mientras funcione. Si no lo entendemos y es contrario a nuestros intereses, entonces es análogo a un evento natural. Hemos estado tratando con eso desde siempre.

Answer 5

Leer sobre la singularidad tecnológica. Es el punto en el que las computadoras se volverán más “inteligentes” que los seres humanos. En este punto, las computadoras diseñarán sus propias actualizaciones y reemplazos, y la inteligencia humana será lo que se vuelva redundante. Muchos de los mayores problemas sociales, políticos y tecnológicos de las generaciones futuras no serán resueltos por los seres humanos.

Answer 6

Creo que este es un escenario bastante probable dado el ritmo al que avanza la tecnología (creo que leí en alguna parte que estamos generando nuevas ideas 10 veces más que hace 10 años, pero no me cite sobre esa estadística). Pero sí, el crecimiento es exponencial.

No creo que la solución radique tanto en retrasar o evitar que esto suceda. Cuando la tecnología llegue a ser tan avanzada, sería crucial asegurarse de que se utilice con fines benignos. El tema principal sería controlarlo.

Aquí hay un brillante video de Recode donde el CEO multimillonario Elon Musk habla sobre sus temores por la IA. Mis pensamientos resuenan con los suyos.

Aquí hay algo más para freír tu mente: supuestamente es un argumento lógico que el universo que conocemos y entendemos (o no entendemos realmente) es una simulación por computadora creada por seres como nosotros para preservar su conciencia. Entonces, la tecnología ya nos ha superado y no podemos entender cómo funciona 🙂

Answer 7

Este punto tiene mucho tiempo pasado.

Nadie sabe cómo funciona todo, y nadie lo ha hecho durante mucho tiempo.

Dejando a un lado el problema que usted plantea, que es válido, de complejidad, está el incansable volumen de cosas que debe saber. Miles de campos con miles de subcampos y detalles de detalles.

Pero me gustaría hablar de una razón diferente, y eso es el secreto. Tenemos secretos comerciales diseñados para proteger a las empresas de que otros no copien sus productos o trabajos. Tenemos secretos gubernamentales diseñados para evitar que los terroristas u otros gobiernos obtengan ciertas capacidades. No puedes saber cómo hacerlo todo, porque no puedes ser miembro de todas las empresas competidoras, no puedes trabajar en todos los departamentos de todos los gobiernos del mundo a la vez.

Y esto no es noticia. En el pasado, teníamos gremios que mantenían el conocimiento de las técnicas en secreto y gobiernos que mantenían en secreto el conocimiento de las técnicas. Hasta el día de hoy no sabemos cómo se produjo el acero Wootz (el “damasco” moderno es similar pero no idéntico, y no sabemos por qué), no sabemos en qué consistía el Fuego griego … estos secretos no solo se guardaron contra otros de su día, pero se han perdido y hasta lo mejor de nuestro conocimiento no se han redescubierto. A menos que alguien lo sepa pero lo mantenga en secreto.

Answer 8

Es un evento predicho. En algún momento cualquier civilización. Llegará al punto en que la tecnología se vuelva tan complicada y difícil de obtener, que requerirá un especialista nacido y criado que pasó toda su vida trabajando en el mismo campo y citando a Arthur Clarke. “Cualquier tecnología lo suficientemente avanzada no se puede distinguir de la magia”

Answer 9

Sí, esto sucedió hace mucho tiempo. I, pencil, es un ensayo de 1958 de Leonard E. Read, sobre los muchos pasos necesarios para hacer un simple lápiz de grafito. Por supuesto que está desactualizado, y los pasos han cambiado. ¡Los productos modernos y las cadenas de suministro son probablemente aún más complejos!

O como Russ Roberts lo puso en la construcción de su propio techo:

¿Pero vas a hacer tu propio martillo? No. Vas a comprar un martillo. Vas a hacer trampa Entonces, realmente no eres autosuficiente, porque la autosuficiencia es el camino a la pobreza.

Answer 10

A los humanos les gusta preocuparse. Somos buenos en eso. Hemos evolucionado para hacerlo. Nos preocuparemos sin importar qué.

Esta es una de esas preocupaciones que deben ser clasificadas como irracionales. Irracional es cualquier cosa que no tenga sentido lógico.

No quiero insultar o ridiculizar. El punto es, ¿cuál es la preocupación? Si no podemos entenderlo, ¿y qué? ¿Qué diferencia haría eso? Si una máquina lo entiende, ¿qué necesidad tenemos de entenderlo?

Por ejemplo, es probable que no entiendas toda la medicina. Pero estás tranquilo por eso. Tu comodidad es que el doctor es humano. Pero cada asesinato cometido, cada error piloto, cada genicidio, ha sido cometido por humanos. ¿Ahora que?

Answer 11

Las personas crean la tecnología para que sepan lo que crean, no puede ir solo de esa manera, alguien tiene que aprender a hacerlo.

La única forma en que esto puede suceder es mediante la creación de una IA de autoaprendizaje que piense realmente cerca de una forma humana. Debido a que no entendemos realmente el pensamiento humano, sería demasiado complejo de comprender, si esa inteligencia artificial se vuelve demasiado avanzada.

Answer 12

Ya tiene, en su mayor parte. Sin embargo, es más como una ruptura entre los que lo usan y los que lo diseñan. La civilización se compone de un montón de diferentes tipos de personas.

Más o menos: los que crean la civilización siempre la van a entender, y los que viven en ella no deben hacerlo.