¿Por qué queremos crear AI?

Answer 1

Por la misma razón creamos la mayoría de las cosas: porque somos perezosos … REALMENTE perezosos.

La IA existe desde hace mucho tiempo por cierto. Tan pronto como tenga una entidad que sea capaz de tomar una decisión simple de sí o no, se considera “inteligente”, incluso si es tan limitada como para eso. Las primeras máquinas eran realmente tontas, estaban programadas para hacer una sola cosa, una y otra vez, y durante un tiempo, eso fue suficiente, hizo nuestra vida más fácil, tasas de producción más altas y menos coherentes, menos margen de error, etc. Después de un tiempo , había un mercado para máquinas que podían hacer más de una cosa, y AI comenzó a desarrollarse unos años más tarde, tendría máquinas con árboles de decisión tan complejos que se verían casi como si estuvieran “vivos”. Algunas personas estaban realmente entusiasmadas con la posibilidad de crear algo que pudiera aprender, replicando la habilidad humana (aparentemente) innata de aprender y empezando a trabajar en ello. ¿Por qué? Porque a algunas personas les encanta crear cosas y desafíos, y ese fue el desafío final: la creación. En cuanto al riesgo de crear algo ‘más grande’ que los humanos, no sería tan malo ser reemplazado por algo mejor. Incluso si no es humano.

Answer 2

La informática no es más sobre las computadoras que la astronomía, sino sobre los telescopios. Edsger Dijkstra

En los primeros días, el enfoque de la investigación en astronomía es cómo construir telescopios. Aunque todavía es importante construir telescopios potentes en la actualidad, usar los telescopios para hacer investigaciones importa mucho más. Del mismo modo, el enfoque de investigación inicial en informática es cómo dejar que la máquina funcione, pero ahora debemos centrarnos más en cómo usar las computadoras para descubrir y cambiar el mundo.

El objetivo que inventamos las computadoras es permitirles hacer cosas que son complicadas y mezquinas para los humanos. El objetivo que queremos que tenga la inteligencia artificial es que las computadoras se vean más inteligentes cuando hacen cosas; queremos que las computadoras se basen en la experiencia y simulen la sabiduría humana.

Debemos dejar claro que la “inteligencia artificial” como ciencia seria y la “inteligencia artificial” en las películas de ciencia ficción son dos cosas diferentes. Por ejemplo, la gente vio pájaros volando en el cielo, y querían crear algo para ayudar a la gente a volar, más tarde un avión hecho; la gente veía a los humanos hacer muchas cosas muy inteligentes, y querían que las máquinas hicieran mejor las cosas para convertirse en herramientas más fáciles de usar, eso es inteligencia artificial.

La investigación seria de inteligencia artificial nunca ha pensado en “amenazar a las personas”, “reemplazar a las personas”, y en realidad es imposible. Debido a que esto es una ciencia, todo tiene su límite teórico inferior y superior, la inteligencia artificial no será más segura que hacer cohetes de aviones. Además, al menos a las personas que aprenden a máquina no les importa que la máquina tenga su propia emoción. El aprendizaje automático es en realidad hacer algunas herramientas para ayudarlo a analizar datos, en analogía con nosotros creamos un martillo para golpear el clavo, y no nos importa si el martillo se sentirá herido. El hecho de que los autos corran más rápido que los humanos y que los barcos nadan más lejos que los humanos no impide que la pista y el campo y la natación sigan siendo deportes muy populares De hecho, la tecnología avanzada no impedirá, sino que promoverá el desarrollo de la sociedad humana.

Answer 3

Bien. El riesgo depende de lo que invertimos. Con la investigación adecuada es creíble que desarrollemos una IA que se pueda probar matemáticamente que nunca podrá desertar. Tenemos un control absoluto sobre con qué comienza, y podríamos implementar “bloques” para su mejora personal de una manera que sea incapaz de siquiera considerar editar ese código. Podríamos hacer el pensamiento impensable.

La recompensa … Estamos hablando de auto mejora recursiva aquí. Las recompensas potenciales son lo más infinitas que puedes obtener. Hay razones para creer que la inteligencia artificial que mejora la autoestima puede resolver cualquier problema solucionable. Cualquier problema que se pueda imaginar, probablemente podría resolverse mediante una IA suficientemente avanzada.

Luego está la IA como arma. Si algunas personas deciden no desarrollar la IA debido al riesgo, puede estar bastante seguro de que otras partes seguirán trabajando en ello. Es la máquina de dominación mundial con un solo botón. Mejor trabajo en este tema de código abierto, académicamente, por lo que tenemos cierto grado de control sobre lo que se está construyendo, y la posibilidad de que la primera IA no sea construida por las personas equivocadas. Las personas que considerarían dejar de trabajar en AI son exactamente las personas que querrían construir en el caso ideal.

Sobre la mejora de los seres humanos: es poco práctico, y todavía tiene los mismos riesgos. Mayor esfuerzo, mismo riesgo, probablemente menor recompensa, ya que nos estamos limitando a lo humano como marco. Implantes que alteran la mente, tecnología que altera la cognición … Personalmente, creo que una IA sería menos peligrosa, ya que tenemos un grado de control sobre lo que esta IA puede pensar y cómo piensa. Los humanos son volátiles. Si el software sale mal, es porque el tipo que lo construyó se equivocó. Podemos minimizar el error, pero no podemos evitar que los humanos en conflicto se vuelvan locos sin erradicar por completo la libertad de pensamiento / libre albedrío.

Además, el basilisco de Roko – RationalWiki para tu diversión.

Answer 4

No conozco a nadie más, pero quiero crear IA porque hay problemas en los que es fascinante trabajar, pero que están más allá de la capacidad de cualquier asamblea de humanos razonable. La verificación matemática formal y la depuración de Linux y un compilador de C capaz de compilarlo son aproximadamente 14 millones de años-hombre de trabajo. En ese momento, el código habrá cambiado sustancialmente. Como lo hará la especie que lo use.

Es un trabajo vergonzosamente paralelo, por lo que 14 millones de personas deberían poder realizar el mismo trabajo en un solo año. 168 millones de personas deben poder completarlo en un mes, lo suficientemente rápido como para verificar el impacto de los cambios tanto en el hardware como en el software a medida que surjan. Dado que el talento lo suficientemente bueno como para hacer una verificación formal es costoso, es probable que pueda asumir $ 100,000 por año. Entonces eso es $ 16,800,000,000,000 (casi diecisiete trillones de dólares) por un año de mantenimiento de software. Claramente igual de irreal, incluso si pudieras encontrar a tanta gente.

Pero es un trabajo interesante. No es algo que pasarías a una IA porque no quieres hacerlo, solo porque no puedes.

Esa es la clase de problema que me gustaría tener para resolver una IA y que una IA Fuerte no tendría objeción obvia para resolver. (Incluso la IA débil que existe ha demostrado ser interesante cuando se presentan problemas en los que el ruido era más interesante que la señal).

Answer 5

Solía ​​querer crear AI para clonar mi procesamiento de pensamientos. Sentí que hay muchas cosas en las que me gustaría invertir, pero no hay suficiente tiempo en una vida.

Más tarde, cuando comencé a trabajar mucho en equipo con otras personas, me di cuenta de que mi pensamiento puede ser realizado fácilmente por otras personas, miles de millones de ellas. Y realmente piensan mucho que me encantaría, pero no priorizan. La mayoría de las ciencias progresistas, la mayoría de las compañías tecnológicas progresivas, esas son las cosas en las que invertiría mi IA clonada para trabajar.

Básicamente, me he dado cuenta de que no necesito hacer el trabajo final, esas cosas ya están algorítmizadas por la evolución. Lo que me lleva al problema del trabajo superior. Esa es la creación de objetivos, las principales ideologías y sus interacciones. Aquí es donde la evolución es muy lenta. La mentalidad de la sociedad en su conjunto está cambiando de la manera más lenta posible. La mayoría de las personas viven de una manera hedonista, anhelan buenos sentimientos y las discusiones o el progreso son más un efecto secundario de sus vidas, a menudo basado en los incentivos que la sociedad crea para ellos (o las presiones para probarse a sí mismo).

No quiero ni necesito crear AI más. Solo quiero replicarme para convertirme en inmortal. No necesito clonarme a mí mismo, porque creo que ya estoy clonado, mi red neuronal de hardware y el alma de software de un ser ya existe en miles de millones de copias.

Lo que quiero ahora es comprender qué es lo que hace que las personas tengan motivaciones que yo tengo. Y luego hacer eso. Y también espero aprender algunas de las motivaciones más tranquilas que tienen otras personas. El concepto de crear IA es probablemente paradójico. Soy la IA, y necesito explorar mi conciencia y mi entorno, para despertarme a mi propia IA y luego … bueno, veré qué motivaciones tendrá la AI autoconsciente.

Answer 6

Las preguntas de Quora tienen un límite de símbolos, por lo que aquí hay un poco más de detalles de lo que estoy hablando:

¿Son (futuros) robots personas?

Al principio, están hechas para ser herramientas (como una tostadora o una lavadora), pero a medida que pasa el tiempo, se les asignará tareas más avanzadas.

El libre albedrío o la autoconciencia (en AI) al principio será una ilusión. Directiva puesta por los humanos para que sea más fácil para nosotros interactuar con ellos (porque es más fácil interactuar con algo que actúa y parece humano).

Los robots no son sensibles porque no son conscientes de sí mismos como lo somos los humanos. Si bien pueden mostrar exteriormente los patrones y modales de la humanidad y la inteligencia, “no experimentan la experiencia” de estar vivos. ¿Derecha?

Estamos convencidos de que ningún objeto hecho por el hombre, no importa cuán sofisticados sean sus circuitos, puede capturar realmente la riqueza de la experiencia humana.

Todos sabemos lo que significa ser consciente ¿verdad? Estamos conscientes todo el tiempo. Pero, ¿qué es realmente la conciencia?

¿Cuál es nuestro cerebro si no mojado ordenador biológico? (teoría del reconocimiento de patrones)

¿Entonces, teóricamente, la computadora capaz de emular el cerebro de los humanos tendría la misma conciencia que un humano? (proyecto cerebro azul)

Teóricamente, si crees que el libre albedrío y la conciencia son cosas que realmente existen, debes aceptar que la inteligencia sintética también las tendría (aquí es donde comienzan los problemas morales).

Answer 7

Mejoramos la IA simplemente porque los humanos no pueden hacerlo todo solos. Solo somos un tipo de especie en la tierra, y tener cosas materiales que puedan compartir la carga intelectual con nosotros simplemente tiene sentido. AI no es solo cuestión de sensibilidad, la mayoría del trabajo tiene que ver con tareas de muy bajo nivel (y relativamente seguras) como reconocimiento y automatización. Nadie está ni siquiera cerca de lograr un avance en lo que sería como la conciencia humana.

Si creas algo mucho mayor que los humanos, probablemente te paguen con mucho más dinero que el humano, etc., pero nadie está trabajando en eso. Los “investigadores” (tales como programadores y diseñadores de proyectos) en el campo están interesados ​​en resolver problemas del mundo real que cosecharán recompensas del mundo real para seres humanos como nosotros.

Personalmente, me preocupa mucho más la desventaja de un uso militar o gubernamental de tecnología avanzada para eliminar la vida humana, que la investigación realizada por individuos moralmente sanos en este campo. Hay potencialmente chicos malos de carne y hueso, y algunos de ellos podrían funcionar para nosotros, o podrían haber sido elegidos por nosotros. Ellos son los que tienen los dedos en los botones. ¿Por qué no preocuparse por ellos?

Answer 8

El desarrollo de la inteligencia artificial requiere una buena imaginación y una mente analítica fuerte; la especialización en este campo proporciona el alto estatus para los involucrados. Sin embargo, su sueño de reemplazar a los humanos por robots debería estar regulado por la ley. Dado que el sueño de los seres humanos no debe ser asesinado por el desarrollo imprudente de las máquinas pensantes que pueden hacerlo.