FUM TGT
"#$%&&'''()*+,-./012.34,+516(70+&)*+,-./01("6+"#$%&&'''()*+,-./012.34,+516(70+&)*+ ,-./01("6+89)6.) 89)6.) :*:*51;0 51 ,1. )*+,-.7*<1= POR NICK BOSTROM Departamento de Filosofía, Universidad de Oxford Homepage: http://www.nickbostrom.com
[Primera versión: Mayo de 2001; versión final Julio de 2002] Publicado en “Philosophical Quarterly” (2003), Vol. 53, No. 211, 211, pp. 243-255. [Este documento está localizado en http://www.simulation-argument.com http://www.simulation-argument.com como versión PDF]
Traducido por Bernardo Pinto
ABSTRACT Este artículo propone propone que por lo menos una de las siguientes siguientes aseveraciones aseveraciones es verdadera: verdadera: (1) Es muy probable que la especie humana se extinga antes de alcanzar una etapa posthumana; (2) Es extremadamente improbable que cualquier civilización posthumana reproduzca un número significativo de simulaciones de su su historia evolutiva (o variaciones de esta); esta); (3) Casi con toda seguridad nosotros estamos viviendo en una simulación computacional. De esto se desprende desprende que la creencia creencia de que hay una alta alta probabilidad probabilidad de que algún día día nos convertiremos en posthumanos que reproduzcan simulaciones de sus ancestros es falsa, salvo que actualmente estemos viviendo en una simulación. En este paper también se discuten otras consecuencias.
I. Introducción
Muchos trabajos de ciencia ficción así como algunas predicciones de serios tecnólogos y futurólogos predicen que en el futuro futuro se dispondrá de una gran capacidad de cómputo. cómputo. Supongamos por un momento que estas predicciones son correctas. Una cosa que las futuras generaciones podrían hacer con sus super poderosas computadoras computadoras [no piense en una computadora como un dispositivo con mouse, teclado y monitor] sería reproducir simulaciones detalladas de sus antepasados o de personas similares a sus antepasados. Debido a que se espera que las computadoras futuras sean muy poderosas, éstas podrían realizar en paralelo una gran cantidad de tales simulaciones. Si suponemos que esta gente simulada es consciente (como debiera ser si las simulaciones fueran lo suficientemente detalladas y si una cierta postura ampliamente ampliamente aceptada y conocida como “Inteligencia “Inteligencia Artificial Fuerte” Fuerte” respecto de la filosofía de la mente es correcta), entonces podría ser el caso de que la gran mayoría de las mentes como las nuestras no pertenecen a la raza original sino más bien a personas simuladas por los avanzados descendientes de tal raza original. Es entonces posible decir que, si este fuera el caso, sería lógico pensar que es muchísimo más probable que estemos entre las mentes simuladas que entre las mentes biológicas originales. Por tanto, si no creemos que estamos actualmente viviendo en una simulación computacional, entonces tampoco debemos creer que tendremos descendientes lo suficientemente inteligentes como para ejecutar una gran cantidad de tales simulaciones de sus antepasados. Esta es la idea básica. El resto del artículo se centrará en los detalles. Más allá del interés que pueda tener esta tesis para aquellos que se dedican a la especulación futurista, hay también también otras recompensas puramente teóricas. El argumento proporciona un estímulo para formular preguntas preguntas metodológicas y metafísicas y sugiere analogías naturalistas a ciertas concepciones religiosas religiosas tradicionales, las cuales algunos pueden encontrar divertidas o estimulantes.
La estructura del artículo es la siguiente: Primero, formulamos una hipótesis que extraemos de la filosofía de la mente para poder empezar con el argumento. Segundo, consideramos algunas razones empíricas para creer que reproducir una gran cantidad de simulaciones de mentes humanas estará dentro de la capacidad de una civilización futura que ha desarrollado muchas de las tecnologías que actualmente se creen compatibles con las limitaciones de las leyes físicas y de la ingeniería. Esta parte no es filosóficamente necesaria pero provee un incentivo para prestar atención al resto. Luego sigue el argumento central, el cual utiliza un simple modelo de probabilidad, junto con una sección que provee soporte para un débil principio de indiferencia que es utilizado por el argumento central. Finalmente, nosotros discutimos algunas interpretaciones de las alternativas mencionadas en el Abstract y que corresponden a las conclusiones del Argumento de la Simulación. !!" $% &'(')&*+ ,) %- ./,)()/,)/0.- ,)% &'1&*2-*+
Un axioma popular en la Filosofía de la Mente es el axioma de la Independencia del Substrato. El axioma afirma que los estados mentales pueden estar dados por una amplia gama de substratos físicos [neuronas, sistemas hidráulicos, circuitos eléctricos, etc.] . Si se cuenta con los implementos de un sistema con los tipos de estructuras y procesos computacionales correctos, se podría originar experiencias conscientes [La Inteligencia Artifical Fuerte afirma que el cerebro humano es simplemente un complejo computador biológico]. No es una propiedad esencial de la conciencia el hecho de estar implementada
sobre redes neuronales basadas en carbono que se encuentren dentro de un cráneo humano. Es decir, procesadores basados en silicio dentro de un computador también deberían ser capaces de originar una consciencia. Argumentos sobre esta tesis han sido dados en la literatura y, aunque este tema no deja de ser controversial, aquí lo tomaremos como verdadero . El argumento que presentaremos no depende, sin embargo, de cualquier versión de funcionalismo o computacionalismo . Por ejemplo, no necesitamos asumir que la tesis de la independencia del sustrato es necesariamente verdadera (o analítica o metafísicamente), sólo debemos creer que un computador super poderoso ocupando el programa adecuado podría llegar a ser consciente. Es más, tampoco necesitamos asumir que para crear una mente en un computador bastaría con programarlo de modo que se comportara como un ser humano en todas las situaciones (incluyendo la capacidad de aprobar el Test de Turing). Sólo necesitamos asumir lo siguiente: tal computador tendría que generar experiencias subjetivas y los procesos computacionales de un cerebro humano tendrían que ser replicados estructuralmente con la adecuada agudeza al nivel de las sinapsis individuales. Esta versión atenuada de la independencia del sustrato es ampliamente aceptada. Los neurotransmisores, factores de crecimiento neuronal y otros químicos más pequeños que participan visiblemente en la sinapsis, juegan un rol en los procesos cognitivos y de aprendizaje humano. La teoría de la independencia del substrato no quiere decir que los efectos de estos químicos sean pequeños o irrelevantes, sino más bien que afectan a la experiencia subjetiva solamente a través de su influencia directa o indirecta en las actividades computacionales. Por ejemplo, si no puede haber diferencia entre las experiencias subjetivas sin que haya diferencia a la vez entre las descargas sinápticas, entonces el detalle necesario para tal simulación tiene que abarcar al menos el nivel sináptico. !!!" 3+& %.4.*)& *)0/+%56.0+& ,) %- 0+4('*-0.5/"
En el estado actual de desarrollo tecnológico, no tenemos ni el hardware lo suficientemente poderoso ni el software requerido para crear mentes conscientes en computadores. Pero se han dado argumentos persuasivos de que si el progreso tecnológico continúa sin cesar, entonces estas deficiencias eventualmente se superarán. Algunos autores argumentan que esta etapa está a sólo décadas de distancia1. Sin embargo, nuestros fines no requieren de supuestos sobre la escala de tiempo. El argumento de la simulación trabaja igualmente bien para aquellos que creen que tomará miles de años el alcanzar una etapa “ posthumana” de civilización, en la que la especie humana haya adquirido la mayor parte de las capacidades tecnológicas que actualmente muestran ser consistentes con las leyes físicas y con las limitaciones materiales y de energía. Aquella etapa madura de desarrollo tecnológico hará posible convertir planetas y otros recursos astronómicos en computadoras enormemente poderosas. Actualmente es difícil estar seguros sobre cualquier límite máximo en el poder de cómputo que pueda estar disponible para las civilizaciones posthumanas. Como todavía no tenemos una “teoría del todo”, no podemos dejar afuera la posibilidad de que nuevos fenómenos físicos, no permitidos en las teorías físicas actuales, puedan ser utilizados para superar los límites2 teóricos actualmente definidos sobre el procesamiento de información que se puede alcanzar en un pedazo de materia dado. Podemos, con mucha más confianza, establecer límites inferiores sobre la computación posthumana, asumiendo solamente mecanismos que ya son conocidos. Por ejemplo,
Erik Drexler ha bosquejado un diseño para un sistema del tamaño de un cubo de azúcar (excluyendo sistemas de enfriamiento y fuentes de poder) que podría llevar a cabo 10 21 instrucciones por segundo3 . Otro autor da un tosco estimativo de 10 42 operaciones por segundo para un computador con la masa del orden de un gran planeta4 (Si hoy pudiéramos crear computadoras cuánticas, de materia nuclear o de plasma, podríamos acercarnos a los límites teóricos). Seth Lloyd calcula un límite superior para un kilogramo de computadoras de 5x1050 operaciones lógicas por segundo llevadas a cabo en ~ 1031 bits5. Sin embargo, es suficiente para nuestros propósitos usar el valor más discreto que presupone solamente principios de diseño actualmente conocidos. La cantidad de poder de cómputo necesario para emular una mente humana se puede, así mismo, estimar toscamente. Una estimación basada en qué tan caro computacionalmente es replicar la funcionalidad de un trozo de tejido nervioso que ya hemos comprendido y cuya funcionalidad ya ha sido replicada en silicio (el realce del contraste en la retina), produce una cifra de ~ 1014 operaciones por segundo para el cerebro humano entero6. Una estimación alternativa, basada en el número se sinapsis en el cerebro y su frecuencia de disparo da una cifra de ~ 1016- 1017 operaciones por segundo.7 Concebiblemente se podría necesitar incluso más si queremos simular en detalle el trabajo interno de las sinapsis y los árboles dendríticos. Sin embargo, es probable que el sistema nervioso central humano tenga un gran grado de redundancia en la micro-escala para compensar la poca confianza y el ruido de sus componentes neuronales. Uno podría por lo tanto esperar una mejora sustancial en la eficiencia al usar procesadores no biológicos más versátiles y confiables. La memoria parece no ser un límite más estricto que el de capacidad de procesamiento8. Es más, ya que la máxima banda ancha sensorial humana es ~ 108 bits por segundo, simular todos los eventos sensoriales significa un costo insignificante comparado con simular la actividad cortical. Podemos por lo tanto utilizar la capacidad de procesamiento necesaria para simular el sistema nervioso central como una estimación del costo computacional total de simular una mente humana. Si el ambiente esta incluido en la simulación esto requerirá poder de cómputo adicional. El “cuánto” depende de qué tan detallada sea la simulación. Simular el universo entero a nivel cuántico es obviamente inviable, a menos que se descubra una radical nueva Física. Pero para obtener una simulación realista de la experiencia humana se necesita mucho menos, sólo lo suficiente para asegurarse que los humanos simulados, interactuando de las maneras humanas normales con su ambiente simulado, no observen irregularidades. La estructura microscópica del interior de la tierra puede omitirse con seguridad. Objetos astronómicos distantes pueden tener representaciones altamente comprimidas: cuya verosimilitud debe extenderse a la estrecha banda de propiedades que podemos observar desde nuestro planeta o las naves espaciales. En la superficie de la tierra, los objetos macroscópicos en áreas deshabitadas puede necesitar ser simulado continuamente, pero los fenómenos microscópicos pueden ser cubiertos según la ocasión. Lo que ves a través de un microscopio de electrones no debe parecer sospechoso, pero normalmente no hay formas en que puedas confirmar su coherencia con las partes no observadas del mundo microscópico. Las excepciones surgen cuando deliberadamente diseñamos sistemas para atrapar los fenómenos microscópicos no observados que operen en concordancia los principios conocidos para obtener resultados que somos capaces de verificar independientemente. Un caso paradigmático de esto es la computadora. La simulación deberá entonces incluir una continua representación de las computadoras hasta el nivel de los elementos lógicos individuales. Esto no es problema, ya que nuestro poder de cómputo actual es minúsculo para estándares post-humanos. Mas aún, un sistema simulador post-humano tendría suficiente poder de cómputo como para mantener un registro detallado de los estados de los cerebros humanos todo el tiempo. Por lo tanto, cuando el sistema detectara que un ser humano estuviera a punto de hacer una observación del mundo microscópico, podría agregar suficiente detalle a la simulación en el lugar apropiado a medida que fuese necesario. En caso de ocurrir algún error, el Jefe del Sistema podría fácilmente editar el estado de cualquier cerebro que se hubiera percatado de la anomalía antes de que se arruinase la simulación. Alternativamente, tal Director podría volver atrás unos cuantos segundos y volver a reproducir la simulación de una forma en que se evitase el problema. Parece ser que el principal costo computacional en crear simulaciones que sean indistinguibles de la realidad física para las mentes humanas en la simulación reside en simular cerebros orgánicos a nivel neuronal o subneuronal9. Mientras que no es posible tener una estimación exacta del costo de una simulación realísta de la historia humana, podemos usar aproximadamente entre 1033 a 1036 operaciones como estimación. A medida que ganemos más experiencia con la realidad virtual, podremos conocer mejor los requisitos para hacer que tales mundos parezcan realistas a sus habitantes. Pero, incluso si
nuestra estimación se encuentra alejada en varios ordenes de magnitud, esto no es de gran importancia para nuestro argumento. Sabemos que una estimación del poder de cómputo de una computadora de masa planetaria es de 1042 operaciones por segundo, y este cálculo utiliza solamente los conocimientos actuales en diseños nanotecnológicos, los que probablemente hoy están lejos del óptimo. Una sola de esas computadoras podría simular la historia mental completa de toda la humanidad (lo que se conoce como una “Simulación de Ancestros”) usando menos de una millonésima de su poder de procesamiento por segundo. Una civilización posthumana podría construir un numero astronómico de estas computadoras. Podemos concluir que el poder de cómputo disponible para una civilización posthumana es suficiente para reproducir una gran cantidad de simulaciones de ancestros, lo cual significaría una pequeña fracción de sus recursos. Podemos sostener esta afirmación aunque dejemos un gran margen de error en todas nuestras estimaciones. Civilizaciones posthumanas tendrán suficiente poder de cómputo como para reproducir a gran escala muchas Simulaciones de Ancestros usando sólo una pequeña fracción de recursos para conseguirlo.
IV. LA BASE DEL ARGUMENTO DE LA SIMULACION La idea básica de este articulo puede ser expresada como sigue: Si hubiera una posibilidad sustancial de que nuestra civilización llegara alguna vez a la etapa post-humana y reprodujera varias simulaciones ancestrales, entonces ¿Por qué tú no estás viviendo en tal simulación? Desarrollaremos esta idea través de un argumento riguroso de acuerdo con la siguiente notación: f P : fracción de todas las civilizaciones tecnológicas de nivel humano que sobreviven lo necesario como para alcanzar una etapa post humana : numero promedio de simulaciones ancestrales reproducidas por una civilización post humana : numero promedio de individuos que han vivido en una civilización antes de que ésta alcance una etapa post humana Entonces la fracción actual de todos los observadores con experiencia de tipo humano que viven en simulaciones es:
Si denominamos f i a la fracción de civilizaciones post humanas interesadas en reproducir simulaciones ancestrales (o que contienen por lo menos algunos individuos interesados en ello y que tienen los recursos suficientes para reproducir un número significativo de simulaciones), y a Ni el número promedio de simulaciones ancestrales reproducidas por estas civilizaciones, tendremos que:
Luego:
Debido al inmenso poder de cómputo de las civilizaciones posthumanas, Ni es extremadamente grande, como vimos en la sección anterior. Inspeccionando (*) podemos darnos cuenta de que por lo menos una de las siguientes proposiciones debe ser verdadera:
V. UN SUAVE PRINCIPIO DE INDIFERENCIA Podemos llevar esto más adelante y observar que si (3) es verdadero, entonces la probabilidad de que uno sea parte de una simulación debería ser cercana a la unidad. Más ampliamente, si supiéramos que una fracción x de todos los observadores con experiencias del tipo humanas viven en simulaciones, y nosotros no tenemos ningún tipo de información que nos diga que nuestras propias experiencias particulares son mas o menos similares a otras experiencias de tipo humano implementadas “ in vivo” y no “in machina”, entonces nuestra creencia de que somos parte de una simulación debería ser igual a x: Este paso puede ser apoyado por un débil principio de indiferencia. Distinguimos dos casos. En el primero (el más fácil) todas las mentes son como la tuya, en el sentido de que todas son cualitativamente iguales a la tuya, es decir, tienen exactamente la misma información y las mismas experiencias que tú tienes. En el segundo caso, las mentes son “como” las otras en el sentido de que son el tipo de mentes propias de las criaturas humanas, pero éstas son cualitativamente distintas entre sí y cada una tiene un distinto grupo de experiencias. Mantengo que incluso en el último caso, en el cual las mentes son cualitativamente distintas, el argumento de la simulación todavía funciona, ya que tú no tienes información que resuelva la pregunta de cuáles de esas mentes son simuladas y cuales son biológicas. Una detallada defensa de un principio más fuerte, el cual incluye a las posiciones anteriores como casos particulares, se ha dado en la literatura (11). El espacio no permite su recapitulación aquí, pero podemos resaltar una de sus intuiciones subyacentes observando una situación análoga más familiar. Supongamos que cierta cantidad x% de la población tiene cierta secuencia genética S en la parte de su ADN comúnmente denominado “ADN basura”. Supongamos, además, que no hay manifestaciones externas de S y que no hay correlaciones conocidas entre poseer S y alguna característica observable. Entonces, claramente, a menos que tengas tu ADN secuenciado, es racional asignar una creencia de x% a la hipótesis de que tu tienes S . Y esto es independiente del hecho de que las personas que tienen S tengan mentes y experiencias cualitativamente distintas de las personas que no tienen S (son diferentes simplemente porque todos los humanos tienen diferentes experiencias y no debido a alguna correspondencia entre S y el tipo de experiencias que uno pueda tener). El mismo razonamiento se puede mantener si S es la propiedad de ser parte de una simulación y no la de tener una secuencia genética específica sólo si se asume que no tenemos información que nos permita detectar alguna diferencia entre las experiencias de una mente simulada y las de una mente biológica. Debe destacarse que el suave principio de indiferencia expresado por (**) establece que se es indiferente solamente entre hipótesis sobre qué tipo de observador eres cuando no tienes información sobre cuál de estos observadores eres tú. No se puede generalizar la indiferencia para las hipótesis en las cuales no hay información sobre cual hipótesis es la verdadera. En contraste con el principio de indiferencia de Laplace y otros más ambiciosos, este principio es inmune a la paradoja de Bertrand y a otros predicamentos similares que intentan generalizar los principios de indiferencia sin restricciones de ningún tipo. Los lectores familiarizados con el argumento del Día del Juicio (12) podrían preocuparse de que el suave principio de indiferencia que se menciona aquí es el mismo supuesto sobre el que se basa el argumento del Día del Juicio, y que la validez de este principio sea puesta en duda debido a implicancias contraintuitivas de este último. Sin embargo, esto no es así. El argumento del Día del Juicio se basa en la premisa mucho más fuerte y controversial, que uno debería razonar como si fuera una muestra aleatoria del total de todas la personas que alguna vez vivirán en la tierra (pasado, presente y futuro) aunque sepamos que estamos en los inicios del siglo veintiuno en vez de algún punto en el distante pasado o en el futuro. El suave principio de indiferencia, por el contrario, se aplica solamente a casos en donde no sabemos a qué grupo de personas pertenecemos. Si guiarse por las probabilidades da alguna guía racional, entonces valdría la pena examinar qué pasaría si todos apostaran al hecho de ser o no una simulación. En ese caso, si la gente usa el suave principio de indiferencia y, consecuentemente, apuestan su dinero al hecho de ser una simulación, sabiendo que la mayoría de las personas lo son, entonces casi todos ganarían sus apuestas. Por otro lado, si apostaran al
hecho de no ser simulaciones, , sabiendo que la mayoría de las personas lo son, entonces casi todos perderían. Parece ser mejor tomar en cuenta al suave principio de indiferencia. Más aun, uno puede considerar una secuencia de posibles situaciones en las que una fracción cada vez mayor de las personas vive en simulaciones: 98%, 99%, 99,9%, 99,9999%, y cada vez más. A medida que uno se aproxima al caso limite en donde todos están viviendo en una simulación (de lo que uno podría inferir deductivamente que uno mismo es parte de esa simulación), es plausible exigir que la creencia que uno le asigna a ser parte de una simulación se acerque al caso limite de completa certeza
VI. INTERPRETACIÓN La posibilidad presentada por la proposición (1) es bastante sencilla. Si (1) es cierto, entonces la humanidad casi ciertamente fallará en alcanzar un nivel posthumano. Prácticamente ninguna especie de nuestro nivel de desarrollo se volverá posthumana, y es difícil ver alguna justificación para pensar que nuestra propia especie sea especialmente privilegiada o protegida de futuros desastres. Condicionalmente con (1), por lo tanto, debemos asignar una gran creencia a la EXTINCIÓN, la hipótesis de que la especie humana se extinguirá antes de alcanzar un nivel posthumano: Cr (EXTINCIÓN / fp 1) --> 1 Uno puede imaginar situaciones hipotéticas donde tengamos evidencia de conocer fp. Por ejemplo, si descubrimos que estamos a punto de ser impactados por un meteorito, esto sugiere que hemos tenido muy mala suerte. Podríamos entonces asignar una creencia a la situación de EXTINCIÓN mayor que la fracción esperada de civilizaciones de nivel-humano que no lleguen a un nivel post-humano. En la actualidad, sin embargo, nosotros carecemos de evidencia para pensar que seamos especiales en este caso, ya sea para bien o para mal. La proposición (1) no implica que nos vayamos a extinguir pronto, sólo que es improbable que alcancemos una etapa posthumana. Esta probabilidad es compatible para nosotros manteniéndonos en nuestro actual, o ligeramente por encima, nivel de desarrollo tecnológico durante un largo tiempo antes de extinguirnos. Otra manera para que (1) sea cierto es ver si es es probable que nuestra civilización tecnológica colapse. Entonces sociedades humanas primitivas podrían mantenerse en la Tierra indefinidamente. Hay muchas formas por las cuales la humanidad podría extinguirse antes de alcanzar una etapa posthumana. Quizás la interpretación más natural de (1) es que probablemente nos extingamos como consecuencia del desarrollo de una tecnología muy poderosa y muy peligrosa.13 Un candidato para esto es la nanotecnología, la cual en una etapa mas desarrollada podría permitir crear nanobots que se autorepliquen capaces de alimentarse de basura y materia orgánica – como una bacteria mecánica. Tales nanobots, usados de mala forma, podrían acabar con la vida en nuestro planeta.14 La segunda alternativa en las conclusiones del argumento de la simulación es que la fracción de civilizaciones posthumanas interesadas en reproducir simulaciones ancestrales es muy pequeña. Para que (2) sea verdad debe haber una gran convergencia en los cursos de las civilizaciones avanzadas. Si el número de simulaciones ancestrales creadas por una civilización es extremadamente grande, la rareza de estas civilizaciones debe ser a la vez extremo. Virtualmente ninguna civilización posthumana decidiría usar sus recursos en reproducir grandes cantidades de simulaciones ancestrales. Es mas, virtualmente todas las civilizaciones posthumanas podrían carecer de individuos que estén interesados y que tengan suficientes recursos para reproducir simulaciones ancestrales, o habrán creado y aplicado leyes para evitar que aquellos individuos actúen como quieran. ¿Que fuerza puede lograr tal convergencia? Uno puede especular que las civilizaciones avanzadas podrían desarrollar una trayectoria que llevara a adoptar una ética de prohibición contra la creación de simulaciones ancestrales debido al sufrimiento que le es producido a los habitantes de la simulación. Sin embargo, desde nuestro punto de vista actual, no es claro si crear una raza humana es inmoral. Al contrario, por lo general vemos que la existencia de nuestra raza es éticamente positivo. Mas aún, la convergencia en una visión ética de la inmortalidad de las simulaciones ancestrales producidas no es suficiente: debe estar combinada con la convergencia en la amplia estructura social que permita abolir efectivamente todas las actividades consideradas inmorales. Otro posible punto de convergencia es aquel donde todos los individuos en virtualmente todas las sociedades posthumanas se desarrollen en una dirección en la cual pierden sus deseos de generar simulaciones ancestrales. Esto requeriría cambios significativos en las motivaciones que conducían a los humanos predecesores, ya que ciertamente hay varios humanos a los que les gustaría reproducir simulaciones ancestrales si pudieran. Pero quizás muchos de nuestros deseos humanos sean vistos como absurdos para alguien que se convierta en posthumano. Quizás el valor científico de una simulación ancestral para una civilización posthumana es insignificante (lo que es posible debido a su imponderable superioridad intelectual), y quizás los posthumanos consideran las actividades recreativas como solo una forma muy ineficiente de obtener placer (el que puede obtenerse de una forma mucho más eficiente por !
estimulación directa de los centros de recompensa del cerebro). Una conclusión que acompaña a (2) es que las sociedades posthumanas serán muy distintas de las sociedades humanas: ellas no tendrán individuos ricos e independientes con la gama de deseos del tipo humano y libres de actuar de acuerdo a ellos. La posibilidad expresada por la alternativa (3) es la más intrigante conceptualmente. Si estamos viviendo en una simulación, el cosmos que observamos es solo una pequeña fracción del total de la existencia física. La física en el Universo donde el dispositivo simulador esté situada puede o no parecerse a la física del mundo que nosotros observamos. Si bien el mundo que observamos es en algún sentido “real”, no estaría localizado en el nivel fundamental de la realidad. Puede ser posible para las civilizaciones simuladas volverse posthumanas. Estas a su vez podrían producir sus propias simulaciones ancestrales en poderosas computadoras que ellos construyeran dentro de su universo simulado. Tales computadoras serian “maquinas virtuales”, un concepto familiar en computación ( por ejemplo los web applets que se ejecutan dentro de una “máquina virtual” o una computadora dentro de tu computadora) Las maquinas virtuales pueden apilarse al estilo fractal regular: es posible simular una máquina simulando otra máquina, y así sucesivamente, en varios pasos de iteración. Por otro lado, si llegáramos a crear nuestra propia simulación ancestral, esta sería una fuerte evidencia contra (1) y (2), y por lo tanto deberíamos concluir que estamos viviendo en una simulación. Mas aún, deberíamos sospechar que los posthumanos reproduciendo nuestra simulación son también entes simulados; y sus creadores, a su vez, también tendrían que serlo. La realidad entonces podría tener distintos niveles. Incluso si es necesario para la jerarquía que halla una base en alguna etapa – el status metafísico de esta exigencia es algo oscuro- habría espacio para una gran cantidad de niveles de realidad, y su número podría incrementarse con el tiempo. (Un punto en contra de la hipótesis de multiniveles es que el costo computacional para los simuladores “basales” seria muy grande. Simular una única civilización posthumana podría ser prohibitivamente caro. Si ese es el caso, entonces deberíamos esperar a que nuestra simulación se acabe cuando estemos a punto de convertirnos en posthumanos.) Aunque todos los elementos de un sistema como éste pueden ser naturales, incluso físicos, es posible extraer un par de analogías con ciertas concepciones religiosas del mundo. En cierto sentido los posthumanos que reproducen la simulación son como dioses desde el punto de vista de la gente que habita la simulación: los posthumanos han creado el mundo que vemos; tienen una inteligencia superior; son “omnipotentes”, en el sentido de que ellos pueden interferir en el funcionamiento de nuestro mundo incluso en formas que violan las leyes físicas; y ellos son “omniscientes”, en el sentido de que pueden monitorear todo lo que pasa. Sin embargo, todos los “semidioses” están sujetos a sanciones por los dioses mas poderosos que viven en la realidad anterior, excepto aquellos que están en el nivel fundamental de realidad. Una meditación más profunda sobre ésto podría culminar en una teogonía naturalista que estudiaría la estructura de esta jerarquía, y los limites impuestos sobre sus habitantes por la posibilidad de que sus acciones en su propio nivel puedan afectar el trato que reciben de los habitantes de niveles anteriores. Por ejemplo, si nadie puede estar seguro de que está en el nivel inicial, entonces todos deberían considerar la idea de que sus acciones serán premiadas o castigadas, basado quizás en una moral, por sus simuladores. Una vida después de la muerte podrá ser una real posibilidad. Debido a esta incerteza fundamental, incluso la primera civilización debería tener una razón para comportarse éticamente y este rasgo sería añadido iterativamente a los siguientes niveles a modo de un círculo virtuoso. Uno podría tener un estilo de imperativo ético universal, el cual estaría en el propio interés a obedecer. Además de las simulaciones ancestrales, uno podría también considerar la posibilidad de simulaciones más selectivas las cuales incluyen un pequeño grupo de humanos o un solo individuo. El resto de la humanidad serían zombis o “personas – sombra” (humanos simulados solamente a un nivel suficiente para que las personas completamente simuladas no noten nada sospechoso). No es claro que tanto más barato seria simular las “personas sombras” comparadas con las personas reales. Ni siquiera es claro si es posible que una entidad tenga un comportamiento indistinguible al de un humano real y a su vez carecer de experiencias conscientes. Incluso si existen tales simulaciones selectivas, no deberías creer que estás en una de ellas a menos que creas que son más numerosas que las simulaciones completas. Tendría que haber alrededor de 100 billones de veces más “me-simulations” (simulaciones de la vida de una sola mente) que simulaciones ancestrales para que la mayoría de las personas simuladas se encontraran en “me simulations”.
Existe también la posibilidad de que los simuladores omitan ciertas partes de las vidas mentales de los seres simulados, dándoles falsos recuerdos sobre el tipo de experiencias que deberían haber tenido durante el intervalo de tiempo omitido. Si fuera así, uno podría considerar la siguiente (inverosímil) solución al problema de la maldad: que no hay sufrimiento en el mundo y que todos los recuerdos de sufrimiento son
ilusiones. Por supuesto, esta hipótesis solo puede ser aplicable a los momentos en los que tú no estas sufriendo. Suponiendo que vivimos en una simulación, ¿Cuáles son las implicancias para nosotros los humanos? Nuestra mejor guía para saber cómo nuestros creadores posthumanos han elegido crear este mundo es el estudio empírico del universo que vemos. Las revisiones de la mayor parte de nuestras creencias serian bastante ligeras y sutiles – en proporción a nuestra falta de confianza en nuestra capacidad de entender las maneras de los posthumanos. Apropiadamente entendida, por lo tanto, la verdad de (3) no debería tener una propensión a volvernos locos o evitar que nos preocupemos de nuestros asuntos o hacer planes y predicciones para el futuro. La principal importancia empírica de (3) actualmente parece ser su rol en la conclusión tripartita establecida antes.15 Podríamos anhelar que (3) sea verdad ya que eso disminuiría las probabilidades de (1). Más si los límites computacionales probablemente hacen que los simuladores terminen una simulación antes de que alcance un nivel posthumano, entonces nuestra mejor esperanza sería que (2) sea verdad. Si aprendemos más sobre las motivaciones posthumanas y los límites de los recursos, quizás como resultado de desarrollarnos como posthumanos nosotros mismos, entonces la hipótesis de que somos simulaciones tendrá un mucho más rico conjunto de implicancias empíricas.
VII. CONCLUSIÓN Una civilización posthumana tecnológicamente desarrollada tendrá un enorme poder de cómputo a su disposición. Basada en este hecho, el argumento de la simulación nos dice que por lo menos una de las siguientes proposiciones es cierta: (1) La fracción de civilizaciones de nivel humano que alcanzan la etapa posthumana es muy cercana a cero; (2) La fracción de civilizaciones posthumanas que están interesadas en reproducir simulaciones ancestrales es muy cercana a cero Y (3) La fracción de todas las personas con nuestro tipo de experiencias que están viviendo en una simulación es muy cercano a uno. Si (1) es verdad, entonces casi seguramente nos extinguiremos antes de alcanzar la posthumanidad. Si (2) es cierto, entonces debe haber una fuerte convergencia en el curso de las civilizaciones avanzadas tal que virtualmente ninguna contiene algún individuo, con la riqueza suficiente e interesado en reproducir simulaciones ancestrales y con libertad para hacerlo. Si (3) es verdad, entonces casi seguramente vivimos en una simulación. En el oscuro bosque de nuestra actual ignorancia, parece ser difícil asignar alguna creencia incluso entre (1), (2) y (3). Por lo tanto, a menos que hoy estemos viviendo en una simulación, nuestros descendientes casi seguramente nunca reproducirán una simulación ancestral.
Agradecimientos Deseo agradecer a muchas personas por sus comentarios, en especial a Amara Angelica, Robert Bradbury, Milan Cirkovic, Robin Hanson, Hal Finney, Robert A. Freitas Jr., John Leslie, Mitch Porter, Keith DeRose, Mike Treder, Mark Walker, Eliezer Yudkowsky y a los Referees anónimos. [1] Ver por ejemplo: K. E. Drexler, Engines of Creation: The Coming Era of Nanotechnology, London, Forth Estate, 1985; N. Bostrom, “How Long Before Superintelligence?” International Journal of Futures Studies, vol. 2, (1998); R. Kurzweil, The Age of Spiritual Machines: When computers exceed human intelligence, New York, Viking Press, 1999; H. Moravec, Robot: Mere Machine to Transcendent Mind, Oxford University Press, 1999. [2] Del mismo modo como Bremermann-Bekenstein trabajaron con los agujeros negros (H. J. Bremermann, “Minimum energy requirements of information transfer and computing.” International
Journal of Theoretical Physics 21: 203-217 (1982); J. D. Bekenstein, “Entropy content and information flow in systems with limited energy.” Physical Review D 30: 1669-1679 (1984); A. Sandberg, “The Physics of Information Processing Superobjects: The Daily Life among the Jupiter Brains.” Journal of Evolution and Technology, vol. 5 (1999)). [3] K. E. Drexler, Nanosystems: Molecular Machinery, Manufacturing, and Computation, New York, John Wiley & Sons, Inc., 1992. [4] R. J. Bradbury, “Matrioshka Brains.” Working manuscript (2002), http://www.aeiveos.com/~bradbury/MatrioshkaBrains/MatrioshkaBrains.html. [5] S. Lloyd, “Ultimate physical limits to computation.” Nature 406 (31 August): 1047-1054 (2000). [6] H. Moravec, Mind Children, Harvard University Press (1989). [7] Bostrom (1998), op. cit. [8] Ver referencias en las anteriores notas al pie de página. [9] A medida que nosotros construímos computadores más poderosos, el costo de simular nuestras máquinas podría llegar a dominar el costo de la simulación de sistemas nerviosos. [10] 100 mil millones de humanos x 50 años/humanos x 30 millones s/año [10^14, 10^17] operaciones en cada cerebro humano por segundo [10^33, 10^36] operaciones. [11] Por ejemplo: N. Bostrom, “The Doomsday argument, Adam & Eve, UN++, and Quantum Joe.” Synthese 127(3): 359-387 (2001); y de una forma más completa: Anthropic Bias: Observation Selection Effects in Science and Philosophy, Routledge, New York, 2002. [12] Ver por ejemplo: J. Leslie, “Is the End of the World Nigh? ” Philosophical Quarterly 40, 158: 65-72 (1990). [13] Ver mi paper “Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards.” Journal of Evolution and Technology, vol. 9 (2001) para una investigación y análisis de las posibles amenazas a la supervivencia humana. [14] Ver por ejemplo: Drexler (1985) op cit. y R. A. Freitas Jr., “Some Limits to Global Ecophagy by Biovorous Nanoreplicators, with Public Policy Recommendations.” Zyvex preprint April (2000), http://www.foresight.org/NanoRev/Ecophagy.html. [15] Para algunas reflexiones realizadas por otros autores revisando las consecuencias de (3), las cuales circularon privadamente durante las verisones tempranas de este paper, ver el texto de R. Hanson, “How to Live in a Simulation.” Journal of Evolution and Technology, vol. 7 (2001). !
