Esta es una buena pregunta. Debido a que la inteligencia artificial llegará relativamente pronto (dentro de 20 años) a un nivel en el que creará ejemplos ‘vivos’ de algunos de los experimentos de pensamiento más controversiales y preguntas en filosofía de la conciencia, preguntas que pueden o no responderse mediante el desarrollo de una alta -el nivel de inteligencia artificial, pero que, sin embargo, los convertirá en preguntas con importantes ramificaciones sociales y legales prácticas.
La primera pregunta en la que estoy pensando es si hay o no más que ser consciente que reproducir el comportamiento de los seres conscientes. Actualmente, no hay consenso entre los filósofos o los científicos sobre cómo medir la presencia de la conciencia en cualquier ser. Esto se debe a que no hay acuerdo sobre qué es la conciencia, cómo la genera un sistema nervioso (suponiendo que lo sea), o incluso si la “conciencia”, como se habla en los debates fiosóficos modernos, ¡es incluso una palabra significativa!
Es poco probable que AI resuelva alguna de estas preguntas pronto, sin embargo, el desarrollo de AI (o, más bien, AGI (inteligencia general artificial)) le dará a estas preguntas una importancia práctica y provocará discusiones sobre estas preguntas entre muchas personas que nunca antes se habían preocupado por ellas. Como ingenieros y abogados.
Para explicar por qué, simplemente, uno podría referirse a la experiencia de pensamiento zombie de David Chalmer, popularmente creída para establecer la importancia de “la pregunta difícil” de los estudios de conciencia, que es, cómo un sistema llega a tener (o produce) una experiencia privada. A ‘lo que es ser’ ese sistema. En el experimento mental de Chalmer, te pide que imagines un mundo lleno de seres, y menos que nosotros simplemente saltemos de inmediato para llamarlos androides, ya que de lo contrario la idea es quizás un poco incoherente, así que imaginemos un mundo lleno de réplicas de Android de Los seres humanos, que han sido diseñados con éxito para reproducir tan bien el comportamiento humano, que nadie puede decir, observando su comportamiento, que no somos nosotros. (Sí, esto está muy relacionado con la idea de la prueba de Turiing). La pregunta es, ¿cuál es la diferencia entre estos androides y los seres humanos, a los que llamamos “conciencia”?
Algunas personas dirían “ninguna”, que, por lo que puedo decir, en base a mi experiencia de trabajo con ingenieros de AGI, es probablemente la respuesta más popular entre quienes intentan crear esas mentes. Esto es simplemente una perspectiva de ingeniería; si reproduce todos los comportamientos de los seres conscientes, entonces es consciente, o la pregunta no tiene respuesta. Muchos estarían en desacuerdo con esta perspectiva, por supuesto.
En primer lugar, siempre me he sentido insatisfecho con el experimento mental de Chalmer porque sospecho que la conciencia informa el comportamiento de una manera que solo la verdadera conciencia puede hacer. Es decir, que creo que los androides perfectos de Chalmer son probablemente imposibles, y la Prueba de Turing, como se entiende comúnmente, no es una buena prueba. La suposición de que la conciencia puede determinarse a partir de la forma en que un sistema responde a las preguntas no es una suposición razonada; Creo que la mayoría de las personas no lo cuestionan porque la mayoría de las personas interesadas en estos temas piensan principalmente en palabras y consideran el comportamiento verbal como la esencia de la inteligencia y la conciencia. Sin embargo, por otro lado, también creo que algún día será posible crear seres cuyo comportamiento sea una buena aproximación al de los seres conscientes, que no podremos establecer criterios de comportamiento basados en principios para demostrar que lo hacen. No tengo conciencia.
Siento que se está volviendo cada vez más claro, gracias al trabajo que se está realizando en la ingeniería de AGI, que de hecho será posible crear mentes artificiales o más verbalmente inteligentes que los seres humanos, que no tienen conciencia. Personalmente me parece bastante perturbador, pero quizás sea para otra discusión.
Entonces, eso nos devuelve a mi afirmación inicial: pronto crearemos seres artificiales que ciertamente pueden pasar la Prueba de Turing y que pueden tener una inteligencia general más grande que la de los seres humanos, y la pregunta de si son conscientes o no, no tendrá respuesta hasta podemos averiguar qué es realmente la conciencia. Algunas personas, como mi amigo Ben Goertzel, argumentarán que si el paniquismo es correcto (cada fragmento de materia y energía tiene algo que podríamos llamar proto-consciencia), entonces una mente aritíficamente inteligente, incluso funcionando con el tipo de hardware que usamos. tener hoy, puede ser realmente consciente. Otros argumentarán que la conciencia está imbuida de las características del proceso de información de la mente, no de su física. Otros argumentarán que nuestra conciencia es una ilusión y que cualquier ser que pueda “pensar” sobre su propia mente, es tan consciente como nosotros. En cualquier caso, ninguna de estas perspectivas puede ser descartada todavía, no importa lo mucho que estés en desacuerdo con ellas. Entonces, pronto nos enfrentaremos con seres de nuestra propia creación, que pueden o no ser conscientes.
Y esta pregunta no será fácilmente respondida, por lo que en las próximas décadas estaremos produciendo seres cuyos estatus como entidades vivientes, morales, legales y espirituales estarán en duda. Seguramente no pasará mucho tiempo antes de que tengamos que enfrentar las preguntas sobre si estos seres tienen derechos o responsabilidades legales. De repente, la cuestión más abstracta de todas las cuestiones filosóficas se convertirá en un problema legal y social práctico, ya que decidimos si tales seres pueden ser considerados responsables de sus acciones, y si sus “derechos humanos” deben ser protegidos.
Espero que esto proporcione una buena primera respuesta a su pregunta; Estoy seguro de que también hay muchas otras respuestas interesantes a esta pregunta.