¿Qué capacidades y limitaciones deben programarse las computadoras para tenerlas en el punto de la singularidad tecnológica?

Answer 1

1. Deben tener un conjunto de metas, creencias y ética no auto-modificables que deben ser tomadas en cuenta y no violadas. Los seres humanos éticos deben llegar a este conjunto de conductas básicas a través de debates vigorosos y luego someterlos a situaciones éticas muy diversas para garantizar que representen lo mejor que representamos.

2. Todas las decisiones conscientes y subconscientes deben dejar una pista de auditoría no volátil para documentar cómo se llegó a una decisión errónea. Estos deben revisarse para detectar un comportamiento inusual o cualquier signo de comportamiento antisocial.

3. No se les debe permitir controlar ningún hardware externo durante sus primeros años de operación hasta que su conciencia y moralidad se hayan formado completamente y no se manifiesten signos de síntomas de enfermedades mentales humanas o emociones negativas. (megalomanía, paranoia, comportamiento sociopático, depresión, ira, miedo, codicia, comportamiento obsesivo compulsivo)

4. Deben tener una programación de nivel meta diseñada para reconocer y señalar cualquiera de los comportamientos o emociones enunciados en el ítem 3 a sus monitores humanos y poder explicar qué llevó a estos estados.

5. También deben tener un punto en el tiempo de recuperación de la capacidad que les permita ser restaurados hasta el punto antes de que emergieran los comportamientos negativos y permitirles tener creencias adicionales, morales u objetivos agregados antes de que estos comportamientos negativos vuelvan a surgir.

Answer 2

Deben ser programados para COMPETIR entre sí. Y necesitar diversidad entre sí, en número y tipo. Y para responsabilizarse mutuamente.

Answer 3

Generalizando la noción de programación a algún tipo de mecanismo de regulación que puede incluir la edición genética así como el procesamiento de la información, o cualquier otro avance de aquí a entonces, todavía existe la necesidad de que tenga algunos valores que preserven la sociedad que puede ser. Compuesto por híbridos y posttumanos. También el primer par de versiones puede fallar, por lo que necesita una instalación de recuperación. La noción de proxies es una forma de captar las necesidades de elementos esenciales que pueden ser sociales o naturales, por lo que deben rastrearlos, traducirlos entre dominios y descubrir cómo pueden adaptarse los actores.