Deep Utopia

Automatización y Futuro del Trabajo

• La segunda parte de la predicción de Keynes, por otro lado, parece estar a punto de fallar en su objetivo, si se extrapolan las tendencias. Si bien es cierto que las horas de trabajo han disminuido sustancialmente en los últimos noventa años, estamos lejos de la semana laboral de 15 horas que Keynes esperaba. Desde 1930, la semana laboral típica se ha reducido en alrededor de una cuarta parte, a aproximadamente 36 horas. La proporción de nuestras vidas que se dedica al trabajo ha visto una caída algo más pronunciada: ingresamos a la fuerza laboral más tarde, vivimos más tiempo después de la jubilación y tomamos más licencias. Y nuestro trabajo es en promedio menos agotador. Sin embargo, en su mayor parte, hemos utilizado nuestra productividad aumentada para el consumo en lugar de para el ocio. La codicia ha triunfado sobre la pereza.
• ¡Sí, pero hay un truco! Toda la discusión anterior sobre si las personas continuarán trabajando se basa en una suposición: que aún habría trabajo para que las personas hicieran.
• Siempre que el trabajo humano siga siendo un complemento neto del capital, el crecimiento en los stocks de capital debería tender a aumentar el precio del trabajo. Los salarios crecientes podrían entonces motivar a las personas a seguir trabajando tan duramente como lo hacen actualmente, incluso si se vuelven muy ricas, siempre que tengan el tipo de deseos insaciables que acabo de describir. En realidad, unos salarios permanentemente más altos probablemente harían que las personas trabajaran un poco menos, ya que elegirían usar algunas de sus ganancias de productividad para aumentar el tiempo de ocio y algunas para aumentar el consumo. Pero en cualquier caso, el grado en que el trabajo es un complemento del capital es una función de la tecnología. Con una tecnología de automatización suficientemente avanzada, el capital se convierte en un sustituto del trabajo. Considera el caso extremo: imagina que pudieras comprar un robot inteligente que pueda hacer todo lo que puede hacer un trabajador humano. Y supón que es más barato comprar o alquilar este robot que contratar a un humano. Los robots competirían entonces con los trabajadores humanos y presionarían a la baja los salarios. Si los robots se vuelven lo suficientemente baratos, los humanos serían completamente expulsados del mercado laboral. La semana laboral de cero horas habría llegado.
• Por lo tanto, mientras que los efectos de la tecnología de automatización perfecta son claros: el desempleo humano total y cero ingresos laborales humanos—las consecuencias de la tecnología de automatización imperfecta para el empleo humano y los salarios humanos son teóricamente ambiguas. Por ejemplo, es posible en este modelo que si los robots pudieran hacer todos los trabajos excepto diseñar y supervisar robots, los salarios pagados a los diseñadores de robots humanos y a los supervisores de robots podrían superar el total de salarios pagados a los trabajadores hoy en día; y, teóricamente, el número total de horas trabajadas también podría aumentar.
• Pero aquí surge una cuestión terminológica. Si un trabajo es externalizado a un robot sintiente, ¿realmente querríamos decir que ha sido “automatizado”? ¿No sería esto más parecido a un escenario en el que hemos dado origen a una nueva persona, nacida con talentos especiales, que crece y se convierte en un maestro de la profesión, permitiendo a sus anteriores practicantes retirarse? No parecería adecuado, en ese caso, decir que el trabajo había sido automatizado. Tampoco es fácil ver por qué el hecho de que el nuevo trabajador estuviera tal vez hecho de silicio y acero en lugar de química orgánica debería hacer una diferencia esencial aquí; ni el hecho de que pudiera haber sido concebido en una fábrica en lugar de en un dormitorio; ni el hecho de que su infancia pudiera haber sido abreviada; ni que sus características fueran, en mayor medida de lo que podría ser típico para los seres humanos, el resultado de un proceso de diseño deliberado en lugar de la casualidad y la herencia.
• En principio, la desconfianza podría limitar la adopción de la automatización sin importar cuán capaces y eficientes se vuelvan las máquinas. Sin embargo, parece plausible que las barreras de confianza eventualmente se erosionen, a medida que los sistemas artificiales acumulen historiales que compitan o superen a los de los tomadores de decisiones humanos, o a medida que descubramos otras formas de verificar la confiabilidad y la alineación. Con el tiempo, probablemente las máquinas se volverán más confiables que los humanos.

Propósito y Significado en la Vida

• Actualmente, hay más que suficientes problemas para ofrecer desafíos significativos incluso a los más ingeniosos y emprendedores entre nosotros.
• "Es cierto que a medida que la inteligencia artificial se vuelve más poderosa, necesitamos asegurar que sirva a la humanidad y no al revés. Pero este es un problema de ingeniería... Estoy más interesado en lo que podrías llamar el problema del propósito... si resolviéramos problemas grandes como el hambre y la enfermedad, y el mundo siguiera volviéndose más pacífico: ¿Qué propósito tendrían los humanos entonces? ¿Qué desafíos nos inspirarían a resolver?"
• "¿Cómo encontramos significado en la vida si la IA puede hacer tu trabajo mejor que tú? Quiero decir, si pienso demasiado en ello, puede ser francamente desalentador y desmotivador. Porque—he puesto mucha sangre, sudor y lágrimas en construir las empresas, y luego me pregunto ‘¿debería estar haciendo esto?’. Porque si estoy sacrificando tiempo con amigos y familiares que preferiría, pero luego, en última instancia, la IA puede hacer todas estas cosas. ¿Tiene sentido? No lo sé. Hasta cierto punto, tengo que tener una suspensión deliberada de la incredulidad para poder mantenerme motivado."
• Me preguntaba por qué había sido creado con un alma que tenía la capacidad de maravillarse pero no la capacidad de averiguar; por qué podía ver tanto que estaba mal mientras aparentemente no podía hacer nada al respecto; y por qué era un zorro y no un gusano o un pato; por qué estaba vivo ahora y no en otro momento; y por qué, de hecho, había algo en absoluto en lugar de que nada hubiera existido nunca, ni un bosque, ni la Tierra, ni el universo, lo cual me parecía que habría sido una condición mucho más natural, sin mencionar que habría ahorrado a todos un gran problema. Con tales imponderables me estaba preocupando. Y no podía dejarlo, no podía ponerlo en paz.
• Hay un mundo de diferencia entre nada y algo.
• ¡Mientras haya ignorancia, hay esperanza!
• Comienza con la educación. El paradigma actual es uno de producción industrial. Las materias primas—los niños—son entregadas a las puertas de la escuela para un procesamiento por lotes basado en la edad. Son golpeados, molidos y perforados durante doce años. Emergen ciudadanos-trabajadores clasificados y controlados en calidad, listos para aceptar empleo en una fábrica o en una empresa de transporte. Algunas unidades son enviadas a otra planta para tres a diez años de procesamiento adicional. Las unidades que emergen de estas instalaciones más avanzadas están listas para ser instaladas en oficinas. Luego, realizarán sus tareas asignadas durante las pocas décadas que quedan de su vida activa. Si miramos este proceso, podemos ver que las funciones principales que desempeña nuestro sistema educativo son tres. Primero, almacenamiento y custodia. Dado que los padres realizan trabajos remunerados fuera del hogar, no pueden cuidar de sus propios hijos, así que necesitan una instalación de almacenamiento infantil durante el día. Segundo, disciplina y civilización. Los niños son salvajes y necesitan ser entrenados para permanecer sentados en sus escritorios y hacer lo que se les dice. Esto toma mucho tiempo y requiere mucha práctica. También: adoctrinamiento. Tercero, clasificación y certificación. Los empleadores necesitan conocer la calidad de cada unidad—su conciencia, conformidad e inteligencia—para determinar qué usos se le pueden dar y, por lo tanto, cuánto vale. ¿Y qué hay del aprendizaje? Esto también puede ocurrir, principalmente como un efecto secundario de las operaciones realizadas para llevar a cabo (1) a través de (3). Cualquier aprendizaje que tenga lugar es extremadamente ineficiente. Al menos los niños más inteligentes podrían haber dominado el mismo material en el 10% del tiempo, utilizando recursos de aprendizaje en línea gratuitos y estudiando a su propio ritmo; pero dado que eso no contribuiría a los objetivos centrales del sistema educativo, generalmente no hay interés en facilitar este camino.
• Cultivando la curiosidad—aquí puedo estar proyectando mis propias inclinaciones, pero creo que una pasión por el aprendizaje podría enriquecer enormemente una vida de ocio. También, la cultivación de las virtudes y un interés en la mejora moral personal. La apertura del intelecto a la ciencia, la historia y la filosofía, con el fin de revelar el contexto más amplio de patrones y significados dentro de los cuales están incrustadas nuestras vidas…
• El problema del propósito. Supongamos que mantenemos el control. ¿Qué pasaría si resolviéramos grandes problemas como el hambre y la enfermedad, y el mundo siguiera volviéndose más pacífico? ¿Qué propósito tendrían entonces los humanos? ¿Qué desafíos nos inspiraríamos a resolver? En esta versión del futuro, nuestra mayor preocupación no es un ataque de robots rebeldes, sino la falta de propósito.
• Actividad “autotélica”: una actividad que se valoriza por sí misma y no meramente como un medio para un fin.
• La versión más fundamental del problema del propósito que ahora está empezando a tomar forma—llamémosla redundancia profunda—es que muchas actividades de ocio también corren el riesgo de perder su propósito. Los cuatro estudios de caso mostraron que muchas de nuestras razones habituales para participar en actividades no laborales desaparecen con la madurez tecnológica. Y esas observaciones pueden generalizarse. Incluso podría llegar a parecer que no tendría sentido que hiciéramos nada—no trabajar largas horas por dinero, por supuesto; pero también no tendría sentido esforzarse por criar hijos, no tendría sentido salir de compras, no tendría sentido estudiar, no tendría sentido ir al gimnasio o practicar el piano… etcétera. Podemos llamar a esta condición hipotética, en la que no tenemos razones instrumentales para hacer nada, la era de la post-instrumentalidad. A medida que avanzamos hacia esta condición ingrávida, alejándonos de la atracción gravitacional del suelo y sus duros imperativos de “sudor de la frente” en nuestros días y nuestra fuerza, podemos comenzar a sentir un sentido alienante de falta de propósito, una “ligereza del ser” desanclada. Nos queda lidiar con el descubrimiento de que el lugar de máxima libertad es en realidad un vacío.
• “Busco en vano palabras para transmitirte a qué se reduce todo esto... Es como una lluvia del sentimiento más maravilloso, donde cada gota de lluvia tiene su propio significado único e indescriptible—o más bien un aroma o esencia que evoca todo un mundo... Y cada mundo evocado es más sutil, más profundo, más palpable que la totalidad de la realidad que has encontrado. Una gota justificaría y rectificaría una vida humana, y la lluvia sigue cayendo, y hay inundaciones y mares.”
• En este punto, estoy haciendo la sugerencia de que incluso si no tuviéramos razones instrumentales para hacer nada en la madurez tecnológica—es decir, ninguna razón para participar en alguna actividad con el fin de producir algún resultado (porque el mismo resultado podría ser producido más eficientemente por máquinas)—esto no implicaría que no estuviéramos haciendo nada.
• Si te resulta difícil realmente abrazar un objetivo de esta manera utilizando solo tu capacidad natural para comprometerte, podrías usar neurotecnología para hacerlo. Habiendo decidido que jugar al fútbol enriquecería tu vida, y viendo que realmente querer ganar mejoraría la actividad y la experiencia, podrías programar tu mente para tener un ardiente deseo de ayudar a tu equipo a la victoria. Otra forma de propósito artificial sería ponerte en una situación en la que solo tus propios esfuerzos pudieran permitirte alcanzar algún resultado que ya te importa por razones independientes. Piensa en un escalador de roca a mitad de camino por una montaña: allí, no tiene más opción que emplear su fuerza y habilidad, bajo pena de muerte. En la utopía, la posibilidad análoga implicaría crear una situación especial en la que las posibilidades de la madurez tecnológica no estén disponibles.
• Aquellos de ustedes que no están tomando este curso con crédito pueden optar en su lugar por tomar una siesta, y podemos organizar que los despierten una vez que haya terminado. (Me pregunto, por cierto, cuántos podrían preferir tomar este enfoque hacia toda su vida actual, si esa opción existiera.) Pero el resto de nosotros, que elegimos posponer el sueño, ya sea por créditos del curso o por el bien de alguna aspiración incluso más elevada (o porque en realidad no nos importa un poco de esfuerzo y aspereza en nuestra diversión): procedamos.
• Sentí que el defecto en mi vida debía ser un defecto en la vida misma; que la cuestión era si, si los reformadores de la sociedad y el gobierno pudieran tener éxito en sus objetivos, y cada persona en la comunidad estuviera libre y en un estado de comodidad física, los placeres de la vida, al ya no ser sostenidos por la lucha y la privación, dejarían de ser placeres.”
• Si no hay un multiverso, y si nuestro universo no es demasiado grande, y si está desprovisto de inteligencia extraterrestre: si, en otras palabras, nuestro planeta es el único horno en el que se ha encendido la llama de la conciencia—entonces el fenómeno humano, parpadeante y vacilante como pueda ser, adquiere una especie de interés cósmico. En una noche lo suficientemente oscura, incluso el tenue resplandor de una luciérnaga puede resaltar como una vista notable.

Tecnología y Evolución Social

• Aumentar tu ingreso anual de $1,000 a $2,000 es un gran asunto. Aumentarlo de $1,000,000 a $1,001,000—o incluso, debería pensar, a $2,000,000—es apenas notable. Pero: esto podría cambiar. El progreso tecnológico podría crear nuevas formas de convertir el dinero en calidad o cantidad de vida, formas que no tienen los mismos rendimientos decrecientes tan pronunciados que experimentamos hoy.
• La suposición de que los humanos seguirán teniendo un control perfecto sobre los robots está, definitivamente, abierta a dudas, aunque no es un tema que tenga la intención de discutir en estas conferencias. Si esa suposición se relaja, el resultado sería, o bien el mismo que el anterior, excepto con una población humana algo menor y una población de robots algo mayor en equilibrio; o, en el caso de un fracaso del control más completo, la población humana podría desaparecer por completo y habría aún más robots.
• ¿Quizás salimos del horno un poco demasiado pronto? ¿Tal vez habríamos estado mejor preparados para el salto final hacia la era de la inteligencia de máquina si hubiéramos pasado otros pocos cientos de miles de años lanzando lanzas y contando historias alrededor de fogatas? Quizás, o quizás no. Se sabe poco sobre estos asuntos. Aún estamos notablemente a oscuras sobre la dirección macroestratégica básica de las cosas. Verdaderamente, me pregunto si siquiera podemos distinguir el arriba del abajo.
• Si deseas almacenar cierta cantidad de cosas, es más barato (en términos de la cantidad de material que necesitas) almacenarlas en un contenedor grande que en muchos más pequeños. De manera similar, las tuberías más gruesas son más eficientes que las más delgadas. Asimismo, los barcos más grandes: las pérdidas por resistencia al agua son menores, por unidad de carga, para los barcos más grandes. Del mismo modo, los hornos más grandes desperdician menos de su calor. Y así sucesivamente. Por lo tanto, operar las cosas a gran escala tiende a reducir los costos unitarios.
• Otra consecuencia importante de la escala es que el costo de producir bienes no rivales, como las ideas, puede amortizarse sobre una base de usuarios más grande. Cuantas más personas haya, más cerebros podrán producir invenciones—y mayor será el valor de cualquier invención dada, ya que se puede utilizar para beneficiar a más personas. Así que, cuanto mayor sea la población mundial, más rápido deberíamos esperar que sea la tasa de progreso intelectual y tecnológico; y, por lo tanto, también la tasa de crecimiento económico. Pero esto no es exactamente correcto. Más bien deberíamos decir: cuanto mayor sea la población mundial, más fuertes podemos esperar que sean los impulsores del progreso intelectual y tecnológico. La tasa real de progreso también dependería de cuán difícil sea lograr avances. Y eso variará con el tiempo. En particular, podemos esperar que se vuelva más difícil con el tiempo, a medida que se recojan primero los frutos más bajos.
• Madurez tecnológica: Una condición en la que existe un conjunto de capacidades que permiten un nivel de control sobre la naturaleza que está cerca del máximo que podría lograrse en la plenitud del tiempo.
• Manufactura y robótica
• Manufactura atómica de alta velocidad
• Sistemas robóticos distribuidos a varias escalas, incluidos los actuadores a escala molecular
• Inteligencia artificial
• Superinteligencia de máquina que supera enormemente las habilidades humanas en todos los dominios cognitivos
• Motivación de IA diseñada con precisión
• Transporte y aeroespacial
• Sondas von Neumann (máquinas de colonización espacial autorreplicantes que pueden viajar a una fracción sustancial de la velocidad de la luz)
• Hábitats espaciales (por ejemplo, terraformación de planetas adecuados o plataformas flotantes como cilindros de O'Neill)
• Esferas de Dyson (para cosechar la energía emitida por las estrellas)
• Realidad virtual y computación
• Simulaciones realistas (de realidades que para ocupantes de nivel humano son indistinguibles de la realidad física, o de ricos mundos de fantasía alternativos multimodales)
• Entradas sensoriales arbitrarias
• Hardware informático de suficiente eficiencia para permitir que los recursos terrestres implementen vastas cantidades de superinteligencias rápidas y simulaciones de ancestros
• Medicina y biología
• Curaciones para todas las enfermedades
• Reversión del envejecimiento
• Reanimación de pacientes en criónica
• Control total de la genética y la reproducción
• Rediseño de organismos y ecosistemas
• Ingeniería de la mente
• Mejora cognitiva
• Control preciso de los estados hedónicos, motivación, estado de ánimo, personalidad, enfoque, etc.
• Interconexiones cerebro-computadora de alta capacidad de banda
• Muchas formas de edición biológica del cerebro
• Mentes digitales que son conscientes, en muchas variedades
• Carga de cerebros biológicos en computadoras
• Sensores y seguridad
• Monitoreo e interpretación multi-sensor en tiempo real de grano fino ubicuo
• Replicación sin errores de sistemas críticos de control robótico e IA
• Bots policiales alineados y ejecución automática de tratados
• Los avances en la coordinación podrían incluso usarse para detener futuros avances en la coordinación, bloqueando una condición que es esencialmente descoordinada, salvo por cualquier forma limitada de coordinación que sea necesaria para que la anarquía sea perpetuamente preservada. Hay muchos ejemplos de mecanismos de ant-coordinación en el mundo actual: son de arriba hacia abajo, como cuando los reguladores antimonopolio dificultan que las empresas colaboren; y de abajo hacia arriba, como cuando los públicos agitados por el sentimiento nacionalista dificultan que dos países antagonistas negocien un fin a sus hostilidades.
• Es posible que una civilización pueda "excavar a través de" una barrera prudencial, al estilo cuántico, si la civilización es lo suficientemente irracional o descoordinada. Podría entonces asumir riesgos que es imprudente que tome y tener suerte. No estoy seguro de que estaríamos donde estamos hoy si no hubiera sido por tales excavaciones imprudentes en el pasado. También podría haber barreras prudenciales que son altas pero no infinitamente altas: filtros de paso de banda que bloquean civilizaciones solo dentro de un cierto rango de sofisticación epistémica—aquellas que son demasiado ingeniosas y coordinadas para simplemente excavar a través, pero no lo suficientemente inteligentes como para escalar por encima. Considera una botella de líquido etiquetada "monóxido de dihidrógeno". Un infante sediento la beberá gustosamente, ya que no puede leer el texto. También lo hará un químico sediento, ya que entiende que es solo agua. Pero el medio educado ligeramente rehuirá beber, considerando la nomenclatura de aspecto aterrador. Este es el rango, por cierto, al que muchos de ustedes están a punto de entrar con el aplazamiento de sus grados.
• Si alguno de ustedes tiene el deseo de ser el primero en descubrir alguna verdad fundamental sobre el universo, es muy probable que ya le hayan adelantado. En algún lugar allá afuera, en la infinita extensión del espaciotiempo, algún Archimedes extraterrestre o IA-Einstein ya ha descubierto lo que sea que tú descubrirás. Pero incluso si tienes el objetivo más modesto de simplemente ser el primero en nuestra civilización en descubrir alguna nueva verdad importante, esto también se volverá más difícil, y eventualmente imposible—tanto porque las IAs superinteligentes dejarán nuestra propia inteligencia muy atrás, como también porque, cada vez más, las verdades fundamentales más importantes ya habrán sido descubiertas.
• Otra forma en la que los humanos podrían tener una ventaja epistémica es como fuentes de ciertos tipos de datos. Las IA nos superarán en inteligencia y conocimiento general, pero es posible que aún tengamos algo que contribuir en lo que respecta a la información sobre nosotros mismos—sobre nuestras memorias, preferencias, disposiciones y decisiones. Tenemos un tipo de acceso privilegiado a parte de esta información, y se podría imaginar que los humanos recibirían un pago por transmitirla a las máquinas, proporcionando descripciones verbales o permitiendo que nos estudien. Nuevamente, esta oportunidad de ganarse la vida como fuentes primarias de datos sobre características humanas podría ser temporal. Tiende a haber rendimientos decrecientes de datos sobre un sistema dado, y una cantidad creciente de datos también podría terminar en el dominio público, reduciendo el valor de flujos de datos adicionales. Finalmente, las IA superinteligentes pueden construir modelos tan precisos de los seres humanos que necesitarían poco o ningún aporte adicional de nosotros para poder predecir nuestros pensamientos y deseos. No solo podrían conocernos mejor de lo que nosotros nos conocemos, podrían conocernos tan bien que no habría nada que pudiéramos decirles que aporte significativamente a su conocimiento. Podríamos llegar a confiar en las recomendaciones y evaluaciones de la IA, que podríamos encontrar más consistentes y predictivas que nuestros propios juicios inmediatos sobre qué decisiones serían las mejores a largo plazo (o sobre lo que nosotros mismos habríamos decidido si hubiéramos dedicado el tiempo y esfuerzo para reflexionar cuidadosamente sobre las opciones a la luz de todos los hechos relevantes). Así, incluso la carga de tomar decisiones sobre lo que queremos podría, en última instancia, ser levantada de nuestros hombros.
• Esto me hizo preguntarme cuánta conocimiento hay realmente por ahí. Sin un método para combinar lo que diferentes comunidades han descubierto, no solo no sabemos mucho, ni siquiera sabemos lo que sabemos. ¿Se podría construir algo para resolver este problema? ¿Cómo sería? Si funcionara, ¿haría que el alma del mundo despertara?
• Algunos de estos aspectos de la habilidad y el esfuerzo de comprar ya están siendo socavados por sistemas de recomendación y otras funcionalidades que están disponibles gracias al progreso en la IA. En lugar de que el comprador tenga que visitar muchas boutiques o tener que recorrer los pasillos de un gran almacén, puede visitar un solo vendedor en línea. Se le presentan ofertas que se predicen que serán de mayor interés para el cliente. Extrapolemos un poco esto. Si el sistema de recomendación es lo suficientemente capaz, eliminaría por completo la necesidad de explorar. El sistema conocería tus gustos y ofrecería sugerencias que te gustarían más que cualquier cosa que tú hubieras elegido por ti mismo. Entonces, ¿cuál sería el sentido de que busques en el inventario tú mismo? Además, si la IA pudiera modelar tus decisiones de compra con suficiente precisión, no habría necesidad de que siquiera miraras las sugerencias. Podría simplemente comprarlas en tu nombre.
• Suponiendo que hubiera cierta demanda por ello, todavía sería posible ir de compras a la antigua. Podrías optar por conducir hasta la tienda, pasar tiempo tratando de encontrar algo que quieras (quizás para descubrir que la tienda no tiene tu talla o color preferido), esperar en la fila para pagarlo y, finalmente, cargarlo todo a casa en bolsas de plástico. Si haces eso, terminarás con una compra que te gustará menos que si dejas que tu asistente de IA se encargue de todo. Comprar de esta manera anticuada tendría algo de Rube Goldberg. Sí, podrías hacerlo. Pero la futilidad de todo esto—el esfuerzo y las molestias adicionales solo para obtener un resultado inferior... cuando esta fantasmal futilidad te está mirando a la cara todo el tiempo con sus cuencas vacías, ¿no se desvanecería el atractivo de la actividad? ¿Hasta el punto en que la mayoría de la gente dejaría de molestarse en hacerlo?
• Consideremos un tipo diferente de actividad: ir al gimnasio. ¡Aquí, al menos, una tarea que no se puede automatizar! Ningún robot puede ocupar nunca tu lugar en el elíptico. Para obtener los beneficios físicos y mentales del ejercicio, tienes que hacerlo tú mismo. Quizás, entonces, hemos encontrado nuestro platino—una actividad que es completamente resistente al ácido corrosivo de propósito de la conveniencia tecnológica. Pero al mirarlo más de cerca, esta esperanza resulta ilusoria. Si bien es cierto que no puedes contratar a alguien más o comprar un robot para que haga tu ejercicio por ti, hay otras soluciones que te permitirían cumplir con las funciones comunes del ejercicio sin romper a sudar. Con tecnología suficientemente avanzada, los beneficios de salud y los efectos fisiológicos de un entrenamiento podrían ser inducidos por medios artificiales, como medicamentos (seguros y sin efectos secundarios), terapia genética, o nanobots médicos que te mantengan en perfecta forma independientemente de tus hábitos alimenticios y de bebida y tu estilo de vida sedentario. Esto se aplica también a los beneficios mentales del ejercicio. La liberación de endorfinas que se desencadena por el esfuerzo físico podría ser inducida farmacológicamente. Igualmente para cualquier otro efecto que aclare la mente, reduzca el estrés y revitalice que disfrutan los que hacen ejercicio: todo disponible en una pastilla o inyección única de nanomedicina. ¡Fuera dolores musculares, distensiones, callos y montones de ropa de gimnasio empapada! ¡Bienvenido el sixpack sin esfuerzo y el VO2 máximo de un ciclista del Tour de Francia!
• Sobre características funcionales objetivas: belleza, encanto, virtud, humor, lealtad, afecto, etc., las personas naturales quedarían superadas. Las personas artificiales ganarían cualquier concurso y comparación justa. Serían mejores.
• Bueno, tenemos una complicación aquí. "Hacerlo porque lo disfrutas" parece significar que lo haces como un medio para experimentar placer o afecto positivo. Pero en la madurez tecnológica, habría caminos más eficientes hacia ese resultado. Podrías tomar un superfármaco que no tenga efectos secundarios, o reprogramar tu cerebro para que experimente placer todo el tiempo independientemente de si estás haciendo alguna actividad "divertida" o no.
• Considera cuánta información hay en un libro. Digamos que tiene 100,000 palabras. Una palabra promedio tiene alrededor de 5 caracteres, y cada carácter son 8 bits. Así que eso serían 4 megabits. Con compresión, sería mucho menos. No hay forma de que pudieras representar todos los contenidos de todas nuestras experiencias que hemos tenido en nuestras vidas con esa cantidad tan reducida de bits.
• Esta es la diferencia entre reproducir una película de una computación y realmente implementar la computación. En la película, cada cuadro podría contener una imagen del estado de las celdas de memoria. Si reproduces la película, verías una secuencia de imágenes de estados sucesivos de las celdas de memoria. Pero si, mientras se estaba reproduciendo la película, entrabas y editabas uno de los cuadros, los cuadros posteriores no cambiarían. Así que en una película de una simple computación aritmética, un cuadro podría mostrar “2+2” y el siguiente cuadro podría mostrar “4”. Pero si editabas el primer cuadro a “2+3”, el segundo cuadro seguiría mostrando “4”. Esto contrasta con el hecho de que si realmente estás implementando la computación. Si en lugar de una película, estuvieras usando una calculadora de bolsillo, que sí implementa la computación, entonces en el paso de tiempo después de que hubieras editado la entrada, la pantalla mostraría un “5”.
• En un mundo donde hay múltiples agentes, con objetivos a veces opuestos, los aumentos generales en la plasticidad no necesariamente benefician a nadie. El avance tecnológico podría perjudicarnos a todos, por ejemplo, al permitir que se realicen travesuras más fácilmente y a mayor escala.
• Considera, por ejemplo, el dolor, que sirve como una señal de advertencia de daño corporal. Hay individuos raros que nacen sin la capacidad de sentir dolor, y esta es una condición peligrosa. Las personas con analgesia congénita pueden caminar sobre huesos rotos o meter la mano en agua hirviendo. A menudo toman riesgos excesivos y no protegen sus cuerpos, lo que les lleva a una muerte prematura. Así que si queremos deshacernos del dolor, por lo tanto, necesitamos alguna forma de abordar este problema. Afortunadamente, se pueden pensar en varias soluciones posibles. Una sería diseñar el entorno para que sea seguro incluso para personas con una nocicepción disminuida o ausente. Alternativamente, una medicina mejorada para reparar o regenerar tejidos y articulaciones dañados podría disminuir la preocupación por las lesiones frecuentes. Pero otro enfoque sería crear un mecanismo que cumpla la misma función que el dolor pero sin ser doloroso. Imagina una "exoespuma": una capa de sensores nanotecnológicos tan delgada que no podemos sentirla ni verla, pero que monitorea la superficie de nuestra piel en busca de estímulos nocivos. Si ponemos nuestra mano en una placa caliente, un brillante mensaje de advertencia rojo parpadea en nuestro campo visual y escuchamos un ruido fuerte. Al mismo tiempo, el mecanismo contrae nuestras fibras musculares para retirar nuestra mano, dándonos tiempo para considerar nuestro próximo movimiento. Otro componente del sistema podría vigilar tejidos y órganos internos, y señalar cualquier condición que requiera acción correctiva. Tal exoespuma no es tan diferente en principio de dispositivos familiares como detectores de monóxido de carbono, dosímetros portátiles y monitores continuos de glucosa. La noción de equipar a un organismo biológico con un conjunto completo de sensores artificiales para la exposición a sustancias nocivas parece algo steampunk, aunque con nanotecnología avanzada la implementación podría ser perfectamente discreta. Y, por supuesto, si nos volvemos completamente digitales, muchas cosas podrían lograrse de manera mucho más elegante.

Naturaleza Humana y Psicología

• Mencioné una tercera razón por la cual podríamos seguir trabajando duro incluso en niveles de ingresos muy altos: a saber, que nuestros apetitos pueden ser relativos de una manera que los hace colectivamente insaciables. Supongamos que deseamos tener más que los demás. Podríamos desear esto ya sea porque valoramos la posición relativa como un bien final; o, alternativamente, porque esperamos obtener ventajas de nuestra posición elevada—como los beneficios que conlleva tener un alto estatus social, o la seguridad que uno podría esperar alcanzar al estar mejor dotado de recursos que sus adversarios. Tales deseos relativos podrían entonces proporcionar una fuente inagotable de motivación. Incluso si nuestros ingresos alcanzan niveles astronómicos, incluso si tenemos piscinas llenas de efectivo, todavía necesitamos más: porque solo así podemos mantener nuestra posición relativa en escenarios donde los ingresos de nuestros rivales crecen en consecuencia.16 Observe, por cierto, que en la medida en que ansiamos la posición—ya sea por sí misma o como un medio para otros bienes—todos podríamos beneficiarnos al coordinar nuestros esfuerzos para reducirlos. Podríamos crear días festivos, legislar una jornada laboral de 8 horas, o una jornada laboral de 4 horas. Podríamos imponer impuestos progresivos pronunciados sobre los ingresos laborales. En principio, tales medidas podrían preservar las clasificaciones de todos los involucrados y lograr los mismos resultados relativos a un costo reducido de sudor y esfuerzo.
• También es posible tener un deseo de mejora per se: desear que mañana tengamos más de lo que tenemos hoy. Esto puede sonar como algo extraño por desear. Pero refleja una propiedad importante del sistema afectivo humano: el hecho de que nuestro mecanismo de respuesta hedónica se aclimata a las ganancias. Comenzamos a dar por sentado nuestras nuevas adquisiciones, y la emoción inicial se desvanece. Imagina lo emocionado que estarías ahora si este tipo de habituación no sucediera: si la alegría que sentiste cuando obtuviste tu primer camión de juguete permaneciera intacta hasta el día de hoy, y todas las alegrías posteriores—tu primer par de esquís, tu primera bicicleta, tu primer beso, tu primera promoción—se acumularan unas encima de otras. ¡Estarías en las nubes!
• El deseo de estatus relativo es, por lo tanto, una fuente prometedora de motivación que podría impulsar el trabajo y el esfuerzo incluso en un contexto donde se ha solucionado "el problema económico del hombre". Siempre y cuando los ingresos de otras personas sigan aumentando aproximadamente a la par con los nuestros, la vanidad podría evitar que nos relajemos sin importar cuán ricos nos volvamos.
• Todos saben qué son los complementos y los sustitutos en economía, ¿verdad? Decimos que X es un complemento de Y si tener más de Y hace que las unidades adicionales de X sean más valiosas. Un zapato izquierdo es un complemento de un zapato derecho. Si, en cambio, tener más de X hace que Y sea menos valioso, decimos que X y Y son sustitutos. Un encendedor es un sustituto de una caja de cerillos.
• Sin embargo, la desigualdad podría aumentar el ingreso promedio en el equilibrio malthusiano si asumimos que la relación entre ingreso y aptitud no es lineal. Esto es más fácil de ver si consideramos un ejemplo extremo: un rey y una reina que tienen un ingreso 100,000 veces mayor que el de una pareja de campesinos—sin embargo, la pareja real no tendría 100,000 veces más hijos sobrevivientes. Así que probablemente la desigualdad aumentaría el ingreso promedio en el estado estacionario malthusiano.
• Desde el bienestar material, surge una pregunta adicional sobre lo que esto corresponde en términos de bienestar subjetivo. La psicología individual tiene un impacto enorme aquí. Dos personas pueden vivir en condiciones prácticamente idénticas—tener empleos similares, salud, situaciones familiares, y así sucesivamente—y, sin embargo, una de ellas puede ser mucho más feliz que la otra. Algunas personas son por temperamento pesadas, ansiosas o incómodas; otras, bendecidas con una ligereza natural, permanecen alegres y sin preocupaciones incluso cuando sus circunstancias objetivas son bastante graves.
• "Sabes lo que dijo el tipo: en Italia, durante treinta años bajo los Borgia, tuvieron guerras, terror, asesinatos y derramamiento de sangre, pero produjeron a Miguel Ángel, a Leonardo da Vinci y el Renacimiento. En Suiza, tuvieron amor fraternal, tuvieron quinientos años de democracia y paz— ¿y qué produjo eso? El reloj cucú."
• Teóricamente, si enfocamos nuestra evaluación solo en las personas que existen hoy, podría ser posible elevar a todos en la jerarquía de estatus al crear nuevas personas en la base de la jerarquía. Todos los que ahora existen podrían entonces tener un número creciente de inferiores a quienes menospreciar. Una estrategia de este tipo es utilizada hoy por los gerentes en organizaciones burocráticas, que a veces buscan contratar al mayor número posible de subordinados para exaltar su propia posición dentro de la estructura corporativa.
• Soy capaz de no decir una gran cantidad de cosas. En términos generales, cuando hay algo que crees que debería estar diciendo, probablemente haya poca razón para que lo diga—considerando que ya lo estás pensando por tu cuenta.
• Bueno, en realidad, el nombre completo que nos hemos dado es Homo sapiens sapiens. De verdad. “Hola, antiguas mentes alienígenas megamentales que han cruzado vacíos intergalácticos en busca de compañerismo y pares—bienvenidos a sus nuevos compañeros de casa: contemplen cómo hemos organizado nuestro flujo de tráfico, cómo estamos arruinando tanto el planeta como nuestra propia salud; escuchen el claxon de nuestras bocinas mientras atravesamos nuestra catalepsia colectiva. Por favor, entren y permítannos decirles qué es qué. Somos Los Sabios Sabios Humanos. Pero pueden llamarnos Sabiduría Cuadrada.
• La identidad humana podría ser verificable solo mediante certificación experta, pero aun así podría ser un determinante importante del valor, así como una obra de arte auténtica de un maestro vale mucho más que una réplica casi indistinguible—quizás porque es más prestigioso poseer el original que la copia.
• Lo que podemos decir es que parece plausible que para algunas personas, tal vez una fracción significativa de la población actual, un salto repentino hacia una gran riqueza y un ocio completo no sería una bendición sin reservas; y para algunos, podría ser ruinosa.
• Para muchos, comprar es un mal necesario; pero también hay gente que disfruta de esta actividad, y que con gusto pasaría más tiempo participando en ella si tuvieran dinero de sobra y no.
• El cerebro humano, por supuesto, es muy diferente de una computadora digital regular, donde los formatos de representación de datos estandarizados y los protocolos de transferencia de archivos facilitan el intercambio de software y su compartición entre diferentes procesadores. En contraste, cada cerebro humano es único. Incluso un concepto simple que todos compartimos, como el concepto de una silla, es implementado por una constelación idiosincrática de conexiones neuronales en cada persona: el patrón preciso de las conexiones neuronales que codifican el concepto depende de los detalles de la experiencia sensorial pasada de ese individuo, su cableado cerebral innato y su neuroquímica, y de una innumerable cantidad de factores estocásticos. Por lo tanto, no se puede simplemente "copiar y pegar" el concepto de una silla de un cerebro a otro sin realizar una compleja traducción a nivel sináptico, desde el "neuralés" de un cerebro al "neuralés" bastante diferente de otro. Los cerebros humanos pueden realizar esta traducción por sí mismos—lentamente e imperfectamente. Esto es lo que sucede cuando nos comunicamos utilizando el lenguaje. Algún contenido mental en un cerebro, representado utilizando la maquinaria neuronal idiosincrática de ese cerebro, se proyecta primero a una representación simbólica de baja dimensionalidad que consiste en una cadena de palabras en un lenguaje natural; y luego el cerebro receptor tiene que desentrañar esta representación lingüística radicalmente empobrecida al intentar inferir qué configuraciones de su propia maquinaria neuronal idiosincrática coinciden mejor con esas representaciones en el cerebro del emisor que podrían haber producido las palabras y oraciones percibidas. Si el acto de comunicación tiene éxito, el cerebro receptor termina con circuitos neuronales que comparten algunas similitudes estructurales con los circuitos en el cerebro del emisor: suficiente como para otorgar al receptor algunas de las capacidades que el emisor quería impartir. Para mensajes grandes o complicados, como cuando un profesor de química orgánica desea llevar a sus estudiantes a su propio nivel de experiencia, este proceso puede tomar años—y aún así, el resultado, muy a menudo, es decepcionante.
• Valencia hedónica Aquí quiero decir que referirse a la opción que implica inducir artificialmente la satisfacción como una en la que nos convertimos en "meros blobs de placer" realmente no hace justicia a lo que está en oferta. Tal vez una vida como blob de placer no sea todo lo que aspiramos o lo mejor que podríamos esperar lograr, pero no debería haber nada "meramente" al respecto. Podríamos decir más sobre esto más adelante, pero algunas observaciones preliminares: (a) Un error común al evaluar futuros posibles es centrarse en lo buenos que son esos futuros para nosotros ahora, en el sentido de cuán interesante es para nosotros contemplar un futuro dado o cuán adecuado es como un escenario para historias entretenidas y relatos morales que deseamos contarnos entre nosotros. Pero la pregunta que tenemos ante nosotros aquí es muy diferente: no cuán interesante es un futuro para observar, sino cuán bueno es vivir en él. Debemos recordar que "tiempos interesantes" a menudo son tiempos horribles para aquellos que deben vivirlos. Un futuro sin eventos y ordenado, en contraste, puede ser un gran lugar para habitar. E incluso si sus ocupantes deberían ser algo blobificados, incluso si no ofrecería el telón de fondo más inspirador para grandes narrativas dramáticas, podría proporcionar un estado de continua satisfacción y sensación placentera que es bastante sólidamente deseable. (b) Es un lugar común que la búsqueda imprudente del placer a menudo es contraproducente. "La búsqueda de la felicidad es una de las principales fuentes de infelicidad."107 Pensamos en un adicto a las drogas desesperado por su próxima dosis, y no parece una buena vida. De hecho, es muy probable que sea una vida de sufrimiento, marcada por breves momentos de alivio inducidos por las drogas. Probablemente nadie en esta sala estaría ansioso por intercambiar su propia vida por la de un adicto empedernido. La sabiduría tradicional, por lo tanto, recomienda adoptar un enfoque más oblicuo en nuestra búsqueda de la felicidad.108 "La felicidad—una mariposa, que, cuando es perseguida, parece siempre estar más allá de tu alcance; pero si te sientas en silencio, puede posarse sobre ti." Esta sabiduría nos llevaría por el camino equivocado, sin embargo, si la aplicáramos a un escenario en el que su premisa subyacente—que perseguir el placer es un contrasentido—no se cumple: como aquel que se desarrolla en un entorno donde existe la tecnología mediante la cual realmente se puede inducir placer al apuntar directamente hacia él, y donde se puede hacer de manera confiable y duradera. Alguien podría tener la intuición de que "un mundo en el que se utiliza la ingeniería mental para inducir placer se sentiría aburrido y insatisfactorio después de un tiempo". Pero esta intuición es simplemente falsa. (c) Supongamos que nos familiarizamos con la calidad y la cantidad de super-placer que podría ser nuestro en la madurez tecnológica. En este momento, estamos opinando sobre el asunto sin estar directamente familiarizados con lo que estamos evaluando. Sin embargo, si adquirimos experiencia directa, es plausible que rápidamente lleguemos a la conclusión de que es extremadamente deseable experimentar y seguir experimentando ese placer. Y no es obvio que, en este caso, el proceso de familiarizarnos más íntimamente con el estado mental cuya deseabilidad estamos tratando de determinar necesariamente implique una corrupción de nuestra capacidad para juzgar bien. (d) Además: "Podrías decir que soy feliz, que me siento bien. Que siento una dicha y un deleite que trascienden. Sí, pero estas son palabras para describir la experiencia humana—flechas disparadas a la luna. "Se siente tan bien que si la sensación se tradujera en lágrimas de gratitud, los ríos desbordarían."
• ¿Cómo puedo saber qué pensamientos podría haber escrito algún autor? ¿Y cómo puedo saber que mis pensamientos cuando pienso en mi madre no son en realidad los pensamientos de algún lector cuando piensa en su madre o en alguna otra figura materna aleatoria que crea en su imaginación? Firafix: ¿Bueno? Tessius: Bueno, tengo muchos pensamientos. Parecería poco probable que algún autor—al menos un autor humano—haya pensado en todos esos pensamientos y los haya escrito; o que algún lector estuviera evocando todos estos pensamientos en el proceso de leer una novela… Y, si puedo ser brutalmente honesto por un momento, también es posible que en alguna ocasión haya tenido algún pensamiento fugaz que no habría merecido ser escrito… Así que, eh, el hecho de que haya tenido todos estos pensamientos, incluidos algunos que los autores no considerarían lo suficientemente significativos como para anotarlos en sus novelas o los lectores para imaginar en detalle: este hecho probaría entonces que en realidad no soy un personaje en una novela.
• Si las personas ficticias se convirtieran en reales mientras alguien lee sobre ellas, en promedio tendrían menos poder para influir en el mundo que las personas que son reales todo el tiempo, continuamente y cumulativamente durante siete u ocho décadas. Podría haber algunas personas ficticias que son influyentes, pero en su mayoría el mundo es dirigido y moldeado por personas no ficticias. Además, por cada personaje ficticio que tiene influencia, se podría argumentar que esa influencia también es compartida por la persona que los escribió, el autor.
• Imagina primero que de alguna manera ya hemos logrado un alto grado de cooperación, y que el desafío es mantener esta estabilidad. Creemos que una forma de lograr esto sería criar para la cooperatividad. Así que si alguien está haciendo trampa, no se le permitiría tener descendencia, pero los individuos que son más útiles y cooperativos que el promedio, podrían tener más descendencia. Dado que hemos supuesto que tenemos un alto grado de cooperación desde el principio, la mayoría de las personas se ajustaría a este acuerdo, y se ofrecerían voluntariamente para ayudar a hacer cumplir la norma si hubiera algún desertor. Cada generación sería mejor en cooperar que la anterior, y así habría esperanza de que el arreglo se mantuviera. Por supuesto, junto con la cooperatividad, puede haber otras características deseables que también se podrían querer seleccionar: vitalidad, sabiduría, capacidad para prosperar con una dieta de hojas y hierba, y así sucesivamente.
• Un importante caso especial de plasticidad es que tienes la capacidad de modificarse a ti mismo de la manera que desees. En uno de mis trabajos iniciales, denominé a esta habilidad autopotencia.123 Un ser autopotente es aquel que tiene poder completo sobre sí mismo, incluyendo sus estados internos. Posee la tecnología necesaria, y el conocimiento para utilizarla, para reconfigurarse a sí mismo como lo considere adecuado, tanto física como mentalmente. Así, una persona que es autopotente podría rediseñarse fácilmente para sentir alegría instantánea y continua, o para volverse absorbentemente fascinada por la colección de estampillas, o para asumir la forma de un león.
• Como recordarás, los cinco anillos de defensa eran: Valencia hedónica; Textura de la experiencia; Actividad autotelica; Propósito artificial; y Enredo sociocultural.
• Según el pensamiento budista, estamos condenados a experimentar insatisfacción incluso si tuviéramos la fortuna de vivir en condiciones materiales óptimas—con salud, riqueza, juventud, reputación, etc. La causa raíz de nuestra experiencia de insatisfacción, según este punto de vista, es el papel que permitimos que el deseo y el apego desempeñen en nuestra existencia. Y la única manera de escapar del sufrimiento es erradicando ilusiones fundamentales sobre la naturaleza del yo y la realidad. Debemos dejar de identificarnos con nuestros deseos y soltar nuestro hábito de ver el mundo a través de la lente distorsionante del ego: solo así podremos ver y aceptar los fenómenos por lo que son; y solo entonces podremos encontrar liberación de nuestro sufrimiento y alcanzar la paz interior.
• A lo largo de líneas similares, Arthur Schopenhauer, el gran pesimista alemán del siglo diecinueve que se inspiró en la tradición védica, en particular en los Upanishads—una parte fundamental de su filosofía se centra en un dilema básico: el dilema al que nos enfrentamos entre el dolor que proviene de deseos insatisfechos y el aburrimiento que experimentamos en ausencia de deseos insatisfechos: “La visión más general nos muestra que los dos enemigos de la felicidad humana son el dolor y el aburrimiento. Podemos avanzar aún más y decir que en la medida en que tenemos la fortuna de alejarnos de uno, nos acercamos al otro. En consecuencia, mientras que las clases bajas están comprometidas en una lucha constante con la necesidad, en otras palabras, con el dolor, las clases altas llevan a cabo una batalla constante y a menudo desesperada contra el aburrimiento.”
• En principio, hay una enorme oportunidad de mejorar nuestra existencia modificando y reingeniando nuestras facultades emocionales. En la práctica, hay una probabilidad considerable de que nos hagamos un lío si procedemos por este camino demasiado imprudentemente y sin antes alcanzar un nivel más maduro de comprensión y sabiduría. La precaución se aplica especialmente a las modificaciones de nuestra naturaleza emocional o volitiva, ya que los cambios que afectan lo que queremos podrían volverse fácilmente permanentes. No porque no pudiéramos cambiarlos—con una tecnología cada vez más avanzada, debería ser perfectamente factible revertir cambios realizados anteriormente—sino porque puede que no queramos cambiarlos. (Por ejemplo, si te cambias a ti mismo para querer nada más que el máximo número de sujetapapeles, no querrías volver a ser un ser que quiere otras cosas además de sujetapapeles, excepto en ciertas circunstancias muy especiales en las que esperas que un mayor número de sujetapapeles venga a existir condicionado a que tú así cambies). Este tipo de cambio volitivo, por lo tanto, incluso si no es irreversible, puede tener una tendencia a, de hecho, nunca ser revertido.
• Así como gazillones de neutrinos atraviesan nuestros cuerpos cada segundo sin que nos demos cuenta, también el mundo podría presentarnos incontables cosas hermosas en cada momento—las cuales nuestras mentes son demasiado groseras e insensibles para apreciar.
• El valor que damos a lo interesante proviene de un motivo de señalización social. Deseamos participar en actividades y estar en situaciones que nos permitan contar una buena historia sobre lo que hemos estado haciendo, porque esto incrementa nuestro estatus social.
• La hipótesis de evitación del rut- Si seguimos haciendo lo mismo durante demasiado tiempo, tendemos a aburrirnos, especialmente si no vemos resultados positivos. Esta disposición emocional podría ser evolutivamente útil, no solo como un mecanismo para fomentar el aprendizaje activo (como se indica en la primera hipótesis), sino también de forma más específica para impedir que persistamos en esfuerzos infructuosos o que quedemos atrapados en situaciones que hemos estimado erróneamente como más propicias de lo que realmente son.
• Intrinsecación: El proceso por el cual algo inicialmente deseado como un medio para algún fin eventualmente llega a ser deseado por sí mismo como un fin en sí mismo.

Utopía y Post-Escasez

• El telos de la tecnología, podríamos decir, es permitirnos lograr más con menos esfuerzo. Si extrapolamos esta dirección interna a su término lógico, llegamos a una condición en la que podemos lograr todo sin esfuerzo.
• Por ejemplo, supongamos que hay una serie de tratamientos médicos progresivamente más caros que cada uno añade algún intervalo de expectativa de vida saludable, o que hace a alguien más inteligente o físicamente atractivo. Por un millón de dólares, puedes vivir cinco años adicionales en perfecta salud; triplica eso y puedes agregar cinco años saludables más. Gasta un poco más y hazte inmune al cáncer, o consigue una mejora de inteligencia para ti o para uno de tus hijos, o mejora tu apariencia de un siete a un diez. Bajo estas condiciones—que podrían plausiblemente ser provocadas por avances tecnológicos—podrían existir fuertes incentivos para continuar trabajando largas horas, incluso a niveles de ingresos muy altos. Así que los ricos del futuro pueden tener maneras mucho más atractivas de gastar sus ganancias que llenando sus casas, muelles, garajes, muñecas y cuellos con cantidades crecientes de los bastante patéticos bienes de lujo de hoy en día.
• Comenzamos con una economía de pleno empleo humano. Luego se inventan los robots perfectos. Esto provoca un flujo masivo de capital hacia el sector de la robótica, y el número de robots aumenta rápidamente. Es más barato construir o alquilar un robot que contratar a un humano. Inicialmente, hay escasez de robots, por lo que no reemplazan inmediatamente a todos los trabajadores humanos. Pero a medida que su número aumenta y su costo disminuye, los robots reemplazan a los trabajadores humanos en todas partes. Sin embargo, el ingreso promedio de los humanos es alto y sigue creciendo. Esto se debe a que los humanos poseen todo, y la economía está creciendo rápidamente como resultado de la exitosa automatización del trabajo humano. El capital y la tierra se vuelven extremadamente productivos. El capital sigue acumulándose; así que eventualmente la tierra es el único insumo escaso. Si quieres visualizar esta condición, podrías imaginar que cada rincón ha sido llenado con robots inteligentes. Los robots producen un flujo de bienes y servicios para el consumo humano, y también construyen robots y mantienen y reparan la flota de robots existente. A medida que la tierra se vuelve escasa, la producción de nuevos robots se ralentiza, ya que no hay dónde ponerlos o no hay materias primas con las cuales construirlos—o, más realísticamente, nada que hacer que no pueda ser igualmente realizado por los robots ya existentes. Los bienes de capital no físicos podrían seguir acumulándose, bienes como películas, novelas y teoremas matemáticos. No hay trabajos y los humanos no trabajan, pero en aggregate ganan ingresos de las rentas de la tierra y la propiedad intelectual. El ingreso promedio es extremadamente alto. El modelo no dice nada sobre su distribución. A pesar de que el trabajo económico ya no es posible para los humanos, puede seguir habiendo flujos de riqueza entre individuos. Los individuos impacientes venden tierras y otros activos para alimentar picos de consumo; mientras que los individuos más orientados al largo plazo ahorran una mayor fracción de sus ingresos por inversión para hacer crecer su riqueza y eventualmente disfrutar de una mayor cantidad total de consumo. Otra forma de escalar el ranking de riqueza en este estado estable de la economía puede ser robando la propiedad de personas o países, o haciendo cabildeo a los gobiernos para redistribuir la riqueza. Las donaciones y herencias también pueden mover algo de riqueza. Y más allá de estas fuentes de movilidad económica, siempre hay la mesa de craps y la ruleta.
• La Revolución Industrial es importante, ya que a partir de ese momento el crecimiento económico ha sido lo suficientemente rápido como para superar el crecimiento poblacional, permitiendo a la humanidad escapar de la condición malthusiana: ¡una gran bendición! Aunque solo hemos pasado unos pocos cientos de años en esta condición emancipadora—y menos que eso en muchas partes del mundo—sin embargo, ha moldeado las experiencias de vida de una proporción significativa y de rápido crecimiento de todos los humanos que alguna vez han nacido. De los aproximadamente 100 mil millones de humanos que han vivido, más de 10 mil millones han sido post-malthusianos. Según las extrapolaciones demográficas estándar, esta cifra aumentaría rápidamente, ya que alrededor del 5% o 10% de todos los humanos que alguna vez nacieron están vivos en este momento, y casi todas las poblaciones humanas contemporáneas han salido de la trampa malthusiana. Así, quizás el 10% de las vidas humanas hasta ahora han sido (o son actualmente) post-malthusianas; y esta fracción está aumentando a una tasa de aproximadamente 10 puntos porcentuales por siglo.
• Creo que se puede argumentar que la sabiduría y una cooperatividad de amplio alcance son las dos cualidades que actualmente son más necesarias para asegurar un gran futuro para nuestra civilización surgida de la Tierra. También creo que la riqueza, la estabilidad, la seguridad y la paz son mejores para la sabiduría y la cooperación global que sus opuestos. Y por lo tanto, deberíamos dar la bienvenida a los avances en estas direcciones, no solo porque son buenos para nosotros ahora, sino también porque son buenos para el futuro de la humanidad.
• Pero esa no es la perspectiva correcta desde la cual juzgar una utopía. Porque la pregunta no es "¿Qué tan interesante es ver una utopía?", sino más bien "¿Qué tan bueno es vivir en ella?".
• Sin avances en la forma en que nuestra civilización se gobierna a sí misma, los aumentos en nuestros poderes materiales podrían fácilmente empeorar las cosas en lugar de mejorarlas; y incluso si se alcanzara una condición utópica, esta probablemente sería inestable y de corta duración, a menos que, como mínimo, se resolviesen también los problemas más graves de nuestra coordinación global.
• Sin embargo, aunque probablemente podamos seguir montando este cohete por un tiempo, eventualmente los efectos de agotamiento dominarán los efectos de escala. Las invenciones tecnológicas se volverán más difíciles de realizar, a medida que se recojan los frutos más fáciles; y la tierra (recursos que no podemos producir más) se volverá escasa. Incluso la colonización del espacio puede producir, en el mejor de los casos, un crecimiento polinómico en la tierra, asumiendo que estamos limitados por la velocidad de la luz—mientras que el crecimiento de la población puede ser fácilmente exponencial, haciendo de esto una carrera que, en última instancia, no se puede ganar. Eventualmente, las bocas que alimentarás superarán a los panes que se puedan poner en ellas, a menos que salgamos del régimen competitivo de reproducción ilimitada.
• Aunque la cantidad de cosas que podrían producirse es finita, es posible concebir algunas dimensiones a lo largo de las cuales una medida agregada podría seguir creciendo indefinidamente. Por ejemplo, si imaginamos un ser cuya utilidad es una función de cuán separadas están las cosas, la utilidad de ese ser puede continuar aumentando sin límites, a medida que el tejido espacial del universo sigue expandiéndose a un ritmo acelerado. Menos absurdamente, podemos considerar un ser cuya utilidad es una función lineal de la cantidad total de (algún tipo de) información que ha sido acumulada por nuestra civilización de origen terrenal—y quizás la capacidad de memoria en el universo accesible es ilimitada, si la expansión cósmica permite que los esquemas de codificación espacial almacenen un número indefinidamente creciente de bits; aunque podría haber razones por las cuales esto realmente no funcionaría a muy largo plazo.
• Puede haber trampas de trayectoria a lo largo del camino del desarrollo futuro de la humanidad. Si tenemos mala suerte, incluso podría resultar que todos los caminos plausibles hacia una utopía verdaderamente maravillosa están bloqueados—no porque la utopía no fuera una condición tecnológicamente, económicamente y políticamente posible y sostenible, sino porque todos los caminos realistas de aquí a allá conducen a alguna trampa de trayectoria inevitable, en la que nuestra civilización se destruye, se queda atascada o se desvía. Afortunadamente, no parece que todas las trayectorias entre aquí y la utopía estén atrapadas—al menos, no tenemos evidencia sólida que descarte la posibilidad de que al menos un camino esté abierto.
• Tengo una idea sobre cómo resolver el problema del estatus en la utopía. ¿Qué pasaría si creamos nuevas personas diseñadas de tal manera que tengan un deseo por un estatus bajo? Esto debería ser posible con una madurez tecnológica, ¿verdad? Entonces, los deseos de estatus de la población existente podrían ser satisfechos, ¡y las nuevas personas también estarían satisfechas! Tanto la satisfacción promedio como la total de las preferencias aumentarían.
• los límites de la automatización pueden—paradójicamente—presentar desafíos para una visión utópica de ambas maneras: al no permitirnos descargar nuestra carga de trabajo a las máquinas, de modo que tengamos que seguir llevando estas cargas por nosotros mismos; o al permitirnos descargar nuestra carga de trabajo a las máquinas, de modo que nos volvamos inútiles y desempleados.
• ¿Cuánto es suficiente?, un libro de Robert y Edward Skidelsky, en el que proponen reformas al sistema capitalista actual para reducir su énfasis en el crecimiento y el consumo y facilitar que las personas escapen de la carrera de ratas y disfruten de más tiempo libre.
• El desempleo eleva el riesgo de alcoholismo, depresión y muerte. Pero el escenario que estamos considerando es diferente en varios aspectos. Primero, y más obvio, perder el trabajo hoy significa, para muchos, ya sea dificultades financieras reales o estrés y ansiedad por el mayor riesgo de enfrentar tales dificultades más adelante—mientras que, en nuestro hipotético, suponemos que todos tienen un nivel de ingreso seguro y alto. Segundo, la pérdida de empleo hoy a menudo está asociada con el estigma—mientras que esto no se aplicaría si todos, o casi todos, están desempleados, como en nuestro escenario. Tercero y de manera relacionada, la pérdida de empleo hoy a menudo tiene un fuerte efecto negativo en la autoimagen, en parte debido al estigma mencionado y en parte porque la identidad de muchas personas está ligada a su papel de ser el sustento de la familia o de tener éxito en el mercado laboral—mientras que, en nuestro escenario, donde esos roles simplemente no existen, las personas formarían su identidad en torno a otros atributos y relaciones. Cuarto, volverse desempleado hoy a menudo significa perder conexiones sociales con compañeros de trabajo, y más generalmente puede hacer que sea más difícil relacionarse socialmente con personas que tienen trabajos—mientras que, de nuevo, esto no se aplica si todos estamos desempleados. Quinto, si simplemente comparamos las vidas y circunstancias de los empleados y los desempleados, podemos ser engañados a menos que tengamos en cuenta que puede haber efectos de selección en juego. Individuos con menos iniciativa, motivación, educación, salud, estabilidad emocional, etc. son más propensos a volverse desempleados.90 Si observamos una distribución diferente de esas características entre las personas que acaban de perder su trabajo, es muy posible que parte de la causalidad vaya en la otra dirección—mientras que, en el caso del desempleo universal, los desempleados serían idénticos a la población general.
• El sistema educativo es solo un aspecto de la sociedad que necesitaría reforma. Más ampliamente, necesitaríamos una transformación de la cultura y los valores sociales. Un alejamiento de la eficiencia, la utilidad, el beneficio y la lucha por los recursos escasos; un cambio hacia la apreciación, la gratitud, la actividad autodirigida y el juego. Una cultura que valore la diversión, la apreciación de la belleza, las prácticas que favorezcan la salud y el crecimiento espiritual, y que aliente a las personas a sentirse orgullosas de vivir bien.
• Llamemos a estos tipos de visiones, que se centran en cómo las personas (y los animales y la naturaleza) podrían interactuar de maneras que constituyan una supuesta forma de vida más armónica, gobernanza y cultura, utopías. Presentan imágenes de cómo la sociedad podría ser "mejor administrada", si tomamos esto en el sentido más amplio, abarcando no solo leyes y políticas gubernamentales, sino también costumbres, normas, modos habituales de proceder, formas de ver a los demás que se han interiorizado, roles ocupacionales y de género, y así sucesivamente. Lamentablemente, cuando las personas han tenido la oportunidad de poner en práctica visiones utópicas de gobernanza y cultura, los esfuerzos a menudo no han cumplido con las expectativas, con resultados típicos que van de decepcionantes a atroces.
• No necesitamos ser demasiado estrictos con estas definiciones. Quiero decir, si nuestra gobernanza y nuestra cultura son armoniosas, justas y propicias para el florecimiento es una cuestión de grados, al igual que el carácter cornucopiano de nuestra sociedad. También hay ambigüedad en la noción de abundancia económica: ¿exactamente qué tipos de bienes y capacidades son “económicos”? Hay muchas cosas que no puedes comprar incluso con dinero infinito—por ejemplo, porque aún no han sido inventadas. Pero para nuestros propósitos puede ser suficiente decir que una utopía post-escasez es aquella en la que es fácil satisfacer las necesidades materiales básicas de todos, tal como se conciben tradicionalmente—alimento, vivienda, transporte, etc. También podemos incluir escuelas y hospitales y algunos otros servicios en la mezcla. Y luego podemos observar que, en países desarrollados, ya hemos avanzado mucho hacia la realización de este tipo de abundancia—digamos, más de la mitad hacia una utopía post-escasez. Esta estimación, evidentemente, omite a nuestros hermanos y hermanas animales, para la gran mayoría de los cuales la situación sigue siendo muy grave y está en urgente necesidad de mejoramiento.
• Voy más allá y afirmo que, a medida que profundizamos en el futuro, cualquier posibilidad que no sea radical no es realista.
• Las sociedades de hoy pueden proponerse metas como aire limpio, buenas escuelas, atención médica de alta calidad, pensiones adecuadas, un sistema de transporte eficiente, y así sucesivamente. Una vez que se han alcanzado esas metas, la ambición podría dirigirse a más aspectos culturales: digamos, crear una sociedad donde las personas se preocupen unas por otras, donde las diferencias individuales sean reconocidas y celebradas, donde muchas personas se unan para crear grandes eventos, donde las costumbres se refinen continuamente para hacer que las interacciones diarias sean más significativas y satisfactorias, y donde haya esfuerzos constantemente renovados para profundizar y ampliar el discurso público sobre arte, religión, ética, literatura, medios, tecnología, política, ciencia, historia y filosofía. Y así sucesivamente. Nuevamente, una transición significativa—pero, realmente, una oportunidad más que un problema.
• Vale la pena señalar que en algunos aspectos una utopía de ocio estaría más cerca de la condición humana natural que nuestro mundo actual. No creo que ser despertado por un despertador y ser convocado a sentarme detrás de un escritorio procesando papeleo para una agencia de seguros o algún otro behemoth burocrático sea natural en absoluto. Algunos investigadores han sugerido que nuestros antepasados de la Edad de Piedra tenían mucho tiempo libre, que podrían haber trabajado tan solo cuatro horas al día. Soy un poco escéptico respecto a la cifra, pero lo que probablemente es cierto es que la frontera entre el trabajo y el ocio no estaba tan claramente delimitada en esas sociedades primitivas. Cuando los instintos de las personas están bien alineados con su entorno, tal vez en su mayoría solo hagan lo que les apetece en ese momento, y eso coincide con lo que es útil. Nosotros, en contraste, nosotros, Homo cubiculi, debemos confiar en la autodisciplina y en incentivos estructurados para realizar los trabajos requeridos.
• En la actualidad, y a lo largo de la historia, hay muchas tareas urgentes que nosotros, los humanos, debemos hacer por nuestra cuenta, y hay muchos grandes desafíos que enfrentamos juntos. Estas tareas y desafíos dan estructura, propósito y significado a nuestras vidas. Pero el progreso tecnológico (y, en menor medida, la acumulación de capital) nos permite lograr más de lo que queremos con menos esfuerzo. En el límite, con tecnología perfecta y capital abundante, seremos capaces de obtener todo lo que deseamos sin esfuerzo. Entonces no tendremos nada por lo que esforzarnos. Estaremos, bien aburridos hasta el extremo o nos transformaremos en "bultos de placer", mentes pasivas que experimentan un sentido de satisfacción inducido artificialmente. De cualquier manera, nos espera un futuro distópico. ¡Y esos serían los mejores escenarios posibles! No sería precisamente tranquilizador, por ejemplo, que nos dijeran que no necesitamos preocuparnos por la redundancia profunda porque nuestra civilización de alta tecnología se vendrá abajo en un cataclismo antes de que alcancemos la madurez tecnológica. En el corazón del argumento hay una visión pesimista de la naturaleza humana. Básicamente: no estamos capacitados para habitar un mundo perfecto.
• ¿Por qué las experiencias de los utopianos, aunque cargadas de una valencia hedónica positiva, no deberían poseer también un contenido rico, variado y estéticamente admirable—mucho más que las experiencias comparativamente vulgares que ocasionalmente nos impresionan en la era actual?
• El entorno de los utópicos podría ser así uno de una belleza desgarradora. Los apreciadores del arte y la arquitectura o los paisajes naturales podrían deleitarse con las vistas más excelentes; los amantes de la música podrían conmoverse con sonidos y melodías brillantemente cautivadoras; los gourmets podrían saborear un festín de maravillas culinarias. Y así sucesivamente. Cada día podría organizarse con ingenio artístico y resultar en pequeñas obras maestras en sí mismas, al mismo tiempo que se suman a una estructura más grande en constante ascenso, en la que todas encajan perfectamente cada una a su manera única: como piedras cuidadosamente talladas y coordinadas que juntas componen una gran catedral de vida. Además, los utópicos podrían disfrutar de capacidades perceptuales mejoradas; y, más importantemente, podrían estar dotados de sensibilidades estéticas supremas que les permitirían aprehender realmente más de la belleza y el significado que impregnan sus corrientes sensoriales y su entorno. Si fuéramos teletransportados a su mundo, sin recibir estas mejoras de nuestra subjetividad, no lo apreciaríamos como ellos lo hacen. Podemos ver algunas flores silvestres de aspecto bonito allí. Ellos se acercarían más a ver el cielo en esas mismas flores.
• Así que, si los utopianos entienden que sus vidas mejorarían si hicieran algo, esto les daría una razón para hacer algo. No sería una razón instrumental. No estarían participando en la actividad para producir algún resultado. Más bien, estarían participando en la actividad porque la actividad misma tiene valor, o agrega valor directamente a sus vidas. La actividad es autotelica: se realiza por su propio bien.
• Muchas de las actividades recreativas que la gente realiza hoy en día, las hace porque son divertidas; participan en ellas como un medio para experimentar placer. Pero esto, por sí mismo, no sería una razón para continuar haciéndolas en un mundo post-instrumental. Entonces podríamos preguntar, ¿sería un problema si las personas en la utopía simplemente dejaban de hacer cosas y se convertían en receptores inertes de placer y diversas formas de experiencia pasiva? Algunas personas podrían pensar que esto sería un problema; una vida tan pasiva simplemente no sería tan buena, todas las demás cosas iguales, como una vida que también incluyera formas más activas de experiencia y participación. Una vida llena de placer y experiencia pasiva aún le faltaría algo importante. Y en respuesta, digo que si eso es así, entonces notemos que los utópicos pueden agregar experiencia activa a su mezcla: tendrían razones para participar en actividades con el fin de realizar cualquier valor que tenga la actividad (más allá de su capacidad para conferir beneficios instrumentales, incluido el beneficio instrumental de generar placer).
• Uno podría objetar a esta propuesta de crear un propósito artificial que, en efecto, equivaldría a suspender la utopía, al menos localmente. Este es el caso más claro si el propósito artificial se crea al entrar en un modo de “hardcore”, en el que se han eliminado los medios que de otro modo estarían disponibles universalmente para lograr resultados automáticamente—generando un bolsillo de escasez y peligro no utópico. Pero quizás se podría argumentar que también habría un elemento de suspensión en el caso en que el propósito artificial se logra al inducir un deseo particular que requiere un esfuerzo, como en el caso del futbolista que llega a tener el deseo de ayudar a su equipo a ganar usando solo medios justos y correctos.
• Ahora quiero señalar que hay otra consecuencia importante de la madurez tecnológica, además de la obviación del esfuerzo humano. Un mundo tecnológicamente maduro es plástico. Quiero decir esto en el sentido de que tiene affordances que facilitan lograr cualquier configuración local preferida. Digamos que tenemos cierta cantidad de recursos físicos básicos: una habitación llena de varios tipos de átomos y alguna fuente de energía. También tenemos algunas preferencias sobre cómo deben estar organizados estos recursos: deseamos que los átomos en la habitación estén dispuestos de tal manera que constituyan un escritorio, una computadora, una chimenea bien diseñada y un labradoodle cachorro. En un mundo completamente plástico, sería posible simplemente pronunciar un comando—una frase en lenguaje natural expresando el deseo—y, voilà, el contenido de la habitación se reorganizaría rápida y automáticamente en la configuración preferida. Quizás necesites esperar veinte minutos, y quizás haya un poco de calor residual escapando por las paredes: pero, cuando abres la puerta, encuentras que todo está dispuesto precisamente como lo deseabas. Incluso hay un jarrón con tulipanes recién cortados en el escritorio, algo que no pediste explícitamente pero que de alguna manera estaba implícito en tu solicitud.
• Una cosa a tener en cuenta sobre este espacio es que no es convexo con respecto a la bondad. Con esto quiero decir que acercarse a la utopía desde nuestra posición actual no necesariamente mejora las cosas. Podría ser fácilmente el caso, por ejemplo, de que alguna capacidad tecnológica avanzada sea beneficiosa solo una vez que el mundo haya logrado suficiente cooperación para evitar usar esa capacidad para la guerra y la opresión. Del mismo modo, alguna instalación avanzada para la cooperación podría ser beneficiosa solo en sociedades que superen un umbral mínimo de sabiduría; sin la cual, el equilibrio cooperativo resultante podría servir solo para respaldar algún prejuicio o concepto erróneo predominante, y bloquear permanentemente un statu quo defectuoso. Otra cosa a tener en cuenta es que los caminos que conducen a las ganancias más rápidas en bienestar podrían ser diferentes de los caminos que conducen, en última instancia, de la manera más expedita o con la mayor certeza, a la utopía. Quiero decir que es posible que el curso de mejora más rápida lleve a un mero óptimo local. Cuando este es el caso, podría haber una tensión entre los intereses de una generación relativamente primitiva, como la nuestra, y los intereses de futuros utopianos, cuya existencia podría requerir algún sacrificio y moderación por parte de sus antepasados.
• En general, la gente no parece dispuesta a hacer mucho sacrificio por el bien de la posteridad. Pero podríamos quizás esperar que (a) crear una utopía sea fácil, o (b) los pasos necesarios para llegar allí coincidan con algunos de los pasos que las personas están motivadas a tomar por otras razones, o (c) ya estamos en una utopía, o (d) recibimos ayuda externa—o (e) encontramos alguna manera de colimar y acumular las partes de nuestras voluntades que comparten un amor por la utopía. Tal vez estas partes, aunque individualmente débiles, podrían, con el mecanismo adecuado, combinarse de manera constructiva (entre las personas y a lo largo del tiempo) de una forma que les permitiría tener una mayor influencia en nuestro futuro común que los deseos míopes, egoístas y partidistas que, en gran medida, rigen el presente.
• Gobernanza y cultura utopía El tipo tradicional, lo que también podríamos (optimísticamente) llamar “utopías post-mala gestión”. Las leyes y costumbres son ideales; la sociedad está bien organizada. No implica por definición ser aburrido y estultificante, aunque ese es un modo de falla común. Otro modo de falla común es basarse en visiones falsas sobre la naturaleza humana, o cometer errores graves de economía o ciencia política. Un error típico más es no reconocer la patiencia moral y las necesidades de algún grupo oprimido, como los animales. Viene en muchos sabores: feminista, marxista, científico/tecnológico, ecológico, religioso. (¿Y ahora, más recientemente, cripto?)
• Utopía post-escasez: Que presenta una abundancia de bienes y servicios materiales—comida, electrónica, transporte, vivienda, escuelas y hospitales, etc. Todos pueden tener mucho de todo (con la importante excepción de los bienes posicionales). Muchas utopías de gobernanza y cultura también son, en grados variables, post-escasez. En realidad, si nos enfocamos solo en los seres humanos, la Tierra ya está, ¿qué—aproximadamente dos tercios del camino? en comparación con la línea base de un ancestro típico cazador-recolector.
• Utopía post-trabajo: Automatización total. Esto significa que no hay necesidad de trabajo económico humano, aunque los intentos de imaginar esta condición a menudo son a medias y suponen una necesidad continua de trabajo humano para la producción cultural. En la utopía de post-escasez, hay abundancia, pero producirla podría requerir trabajo. En la utopía post-trabajo, hay poco o ningún trabajo humano, ya sea porque las máquinas nos brindan abundancia sin esfuerzo, o porque elegimos vivir de manera frugal con el máximo ocio. No está claro cuánto hemos avanzado hacia una condición post-trabajo, dados los compromisos entre ingresos y ocio. Muchas personas probablemente podrían encontrar alguna manera de lograr al menos un nivel de bienestar material al estilo de cazadores-recolectores mientras hacen muy poco trabajo, aunque tal vez no sin sacrificios significativos de estatus social o participación comunitaria. Aquellos con algunos millones en sus carteras de inversión podrían permitirse mucho más, sin embargo, a menudo siguen trabajando de todos modos, principalmente por las recompensas sociales.
• Utopía post-instrumental: Sin necesidad instrumental de ningún esfuerzo humano. Implica la pos-trabajo pero va más allá al asumir también que no hay necesidad instrumental para ningún trabajo no económico, ya sea; no hay necesidad de ejercitarse para mantenerse en forma, por ejemplo; no hay necesidad de estudiar para aprender; no hay necesidad de evaluar y seleccionar activamente para obtener los tipos de alimentos, refugio, música y ropa que prefieres. Esta es una concepción mucho más radical que los tres tipos de utopía anteriores, y ha sido mucho menos explorada.
• Utopía plástica: Cualquier configuración local preferida puede lograrse sin esfuerzo, excepto cuando se ve bloqueada por algún otro agente. La autopotencia es un caso especial de esto: la capacidad de un ser para redefinirse a sí mismo según su voluntad. Esto va más allá de la post-instrumentalidad, que implica solo que cualquier cosa que se pueda lograr puede hacerse sin esfuerzo, pero no necesariamente implica una expansión de lo que se puede lograr. En una condición plástica, lo tecnológicamente posible se vuelve idéntico a lo físicamente posible (al menos localmente). Una consecuencia importante de la plasticidad utópica es que es probable que conduzca a una humanidad metamórfica: seres que han sido transformados profundamente a través de sus avances tecnológicos. Las utopías plásticas han sido muy poco exploradas, excepto en contextos teológicos y en algunas obras de ciencia ficción.

• En las distopías clásicas de gobernanza y cultura, por ejemplo, el patrón problemático podría ser el totalitarismo opresivo (Mil novecientos ochenta y cuatro) o el consumismo deshumanizante (Un mundo feliz). En una distopía de posescasez, podría ser la alienación o la desconexión social. En una distopía de postrabajo, el problema podría ser el tedio y la indolencia. En distopías post-instrumentales o plásticas, lo problemático sería un sentido de falta de significado o de que el mundo se vuelva arbitrario y desatado de manera poco interesante.
• Las distopías suelen ser mejores escenarios para historias porque al menos no carecen de problemas. (El consejo habitual para los escritores es que "las historias requieren conflicto"). Como mínimo, el orden distópico en sí mismo es un gran problema contra el que un protagonista podría luchar. Pero esto solo es cierto para los primeros tres tipos de distopía. La post-instrumentalidad y la plasticidad plantean dificultades para todos los intentos de narrar, ya sea que el escenario se presente como positivo o negativo. Esto se debe a que se socavan las condiciones para la agencia dramática, y porque las representaciones realistas de personajes y entornos los harían irreales e incomprensibles para nosotros.
• incluso si lográramos la perfección, no nos haría felices. Quizás sería… aburrido vivir en un mundo perfecto?
• Esto, al menos, es una consecuencia si tomamos los modelos cosmológicos actualmente más favorecidos al pie de la letra. Sugieren que estamos viviendo en lo que he llamado un Gran Mundo: un mundo que es lo suficientemente grande y localmente estocástico como para que sea estadísticamente cierto que contenga todas las experiencias humanas posibles.

Conciencia y Mentes Digitales

• Así que, como estaba diciendo, siempre podrías crear más personas, especialmente del tipo digital. El número de mentes digitales que podrías crear es proporcional a la cantidad de recursos computacionales que podrías desplegar, lo cual podemos suponer que es proporcional a la cantidad de dinero que tienes para gastar.
• Pero si los dispositivos que están realizando el trabajo en este escenario son muy sofisticados, es posible que no debamos pensar en ellos como simples máquinas, sino como un nuevo tipo de trabajador, y que también deberíamos considerar el bienestar de estas mentes digitales. Aunque en la última ocasión me desvíe en varias tangentes, resistí la tentación de profundizar en el estatus moral y político de las mentes digitales. Bueno, permíteme afirmar que creo que este es un tema importante y creo que algunos tipos de mentes digitales podrían tener un estatus moral—potencialmente un estatus moral muy alto.
• Además, la industria de la inteligencia artificial y sus clientes parecen estar bastante dispuestos a tolerar la creación de mentes digitales cada vez más sofisticadas que están entrenadas para servir humildemente a sus usuarios sin pensar en su propia posición social o aspiración independiente.
• La otra forma en que nuestra capacidad de automatizar podría verse limitada es si hay ciertos desempeños especificados conductualmente que no pueden ser alcanzados sin generar experiencia consciente como un efecto secundario. Por ejemplo, podría ser que cualquier sistema cognitivo que sea capaz de actuar muy parecido a un ser humano en un conjunto muy amplio de situaciones y durante períodos de tiempo prolongados, solo pudiera hacerlo al realizar cálculos que instancian experiencia fenomenal. En este momento, no estoy tomando una posición sobre si este es efectivamente el caso. Pero si lo es, entonces un segundo límite a la automatización es que podría haber demanda por ciertos comportamientos complejos o interacciones cuyo desempeño necesariamente genera sensibilidad; por lo tanto, si no contamos los procesos sensibles como automáticos, los trabajos que requieren estos desempeños no podrían ser completamente automatizados. Todo lo que he dicho aquí sobre la sensibilidad podría decirse, pari passu, sobre el estatus moral. Esto es relevante si la sensibilidad no es una condición necesaria para el estatus moral. Por ejemplo, si algunas formas no sensibles de agencia son suficientes para el estatus moral, podría haber trabajos (por ejemplo, puestos ejecutivos que requieren una búsqueda de objetivos flexible en ambientes complejos, pero quizás también muchos otros roles) que solo podrían ser realizados por sistemas que tienen estatus moral. Y si delegar tareas a sistemas que tienen estatus moral no cuenta como automatización, entonces de nuevo tenemos aquí un límite a la posibilidad de automatización.
• Quiero decir, cuando estás recordando algo de la memoria a largo plazo, ¿no podríamos considerar eso, en cierto sentido, como una especie de “entrada perceptual interna”? excepto que tu órgano sensorial en este caso no está mirando hacia afuera al entorno visual circundante, sino hacia adentro a un entorno neuronal interno. Pero si en un caso estás buscando algo en un cuaderno usando tus ojos, y en el otro caso estás buscando algo en tu banco de memoria a largo plazo, ¿es realmente a un nivel profundo tan diferente? Quiero decir, especialmente si la operación ocurre fuera de la conciencia. Entonces, mientras que la tesis de la mente extendida dice que algunos elementos extracraneales del mundo deberían considerarse como partes de nuestras mentes, tal vez desde una perspectiva axiológica también deberíamos ir en la otra dirección y decir que muchas partes de nuestras mentes no son realmente parte de “nosotros”? Y entonces la pregunta es, la parte que es nosotros: ¿qué tan grande y compleja es realmente esa parte?
• Los lazos familiares son uno de los más cercanos y desinteresados de los que la mayoría de nosotros los humanos somos capaces. Sin embargo, esta función de inversión también podría verse socavada en la madurez tecnológica, en la medida en que habría un camino más fácil para lograr un resultado equivalente. Es decir, podríamos crear personas artificiales (seres humanos conscientes completamente articulados con estatus moral) que mantengan el mismo tipo de relación con nosotros: que nos entiendan, confíen en nosotros y se asemejen a aspectos de nosotros de la manera en que lo hacen nuestros hijos. Esto sería mucho más rápido y barato que criar a un niño humano de la manera tradicional. Además, las personas artificiales podrían ser diseñadas para tener una mayor capacidad de amor, gratitud y conexión cercana que la que generalmente se le otorga a nuestra propia especie caída.
• (b) Si deseas tener una experiencia que implique hacer un esfuerzo, de hecho necesitarías hacer un esfuerzo tú mismo. Módulo las limitaciones expresadas en (a), los científicos podrían hacer que tú hicieras tales esfuerzos; pero vale la pena señalar que este tipo de experiencia no vendría “gratis”. Supongamos que quieres tener la experiencia de escalar el Monte Everest. Podrías fácilmente tener la experiencia de ver una serie de vistas que se verían durante la ascensión; y, si miras hacia abajo, podrías ver tus piernas moviéndose. También podrías sentir la presión en tus hombros por la mochila, y el aire frío mordiendo tus mejillas. Pero sin el sentido de tener que esforzarte, de tener que profundizar dentro de ti mismo para encontrar los medios para continuar, tu experiencia sería solo una sombra de las experiencias de aquellos que han superado el Everest en la vida real. Si, sin embargo, los científicos inducen estos elementos, entonces estás pagando un alto precio por la experiencia—un precio de incomodidad, miedo, y gasto de fuerza de voluntad. La máquina de experiencias quizás no te daría tanto beneficio en comparación con ir realmente a Nepal y escalar la montaña real, aunque te protegería del riesgo de lesiones físicas. (c) Entre nuestras experiencias más importantes están aquellas que involucran interacciones con otros seres humanos. ¿Cómo podrían implementarse tales experiencias? Considera las siguientes rutas. i. NPCs. Para generar la entrada sensorial que recibes cuando interactúas con otros, esas otras personas podrían implementarse como NPCs (“personajes no jugadores”), por lo que me refiero a constructos que muestran algunos de los atributos de un ser inteligente pero que, sin embargo, no instancian ninguna experiencia fenomenal u otras bases que otorgarían a ese ser un estatus moral. Esto es indudablemente posible en el caso de interacciones relativamente superficiales. Por ejemplo, si deseas tener la experiencia de hacerle a un extraño algunas preguntas del tipo de “¿cuánto es dos más dos?” y obtener como respuesta “cuatro”, sería metafísicamente posible implementar los cálculos necesarios sin crear ningún ser moralmente considerable (aparte de ti mismo). Pero no está tan claro que sería metafísicamente posible generar la experiencia completamente realista de tener interacciones largas, profundas y ricas con otro ser humano sin ejecutar un cálculo que efectivamente implemente una mente digital compleja que tenga estatus moral. Lo que nos lleva a la segunda ruta hacia la generación de experiencias de interacción… ii. VPCs. Por VPCs (“personajes jugadores virtuales”) me refiero a constructos computacionales artificiales que sí tienen estatus moral, por ejemplo, porque poseen mentes digitales conscientes.
• iv. Grabaciones. La noción de que entras en la máquina de experiencias haciéndole estimular tu cerebro a neuropsicólogos con electrodos es un tanto anticuada. Un método más plausible y eficiente sería primero subirte a una computadora y luego interactuar con una realidad virtual. Esto nos presenta al menos un caso especial en el que podrías tener experiencias de interacción profunda totalmente realistas sin instanciar ninguna entidad moralmente significativa (más allá de ti mismo), a saber, reproduciendo grabaciones de las salidas de otras personas. Para hacer esto, primero harías una corrida en la que interactúas con VPCs o PCs (que pueden ser subidas o biológicas). Los supercientíficos graban la historia de interacción entre tú y estas otras personas. Cuando terminas de hacer lo que querías hacer, restablecemos tu mente y el entorno a sus estados iniciales. Ahora tienes la capacidad de disfrutar la misma experiencia nuevamente, pero esta vez sin instanciar ninguna persona real. Esto se haría ejecutando de nuevo el programa que implementa tu mente, inicializada a la configuración exacta de inicio de la primera corrida; pero en lugar de volver a ejecutar los cálculos que corresponden a las mentes de tus compañeros de interacción (o al entorno físico), simplemente recuperamos la información relevante de la memoria. Mientras tienes la experiencia esta segunda vez, puedes tomar las decisiones que quieras: pero dado que ya sabemos qué decisiones querrás tomar, y dado que tenemos una grabación de cómo otras personas y el entorno reaccionaron a estas decisiones, no necesitamos recomputar esas partes y en su lugar podemos usar datos almacenados para determinar la entrada que tus sentidos reciben. (Las operaciones de tu propia mente sí necesitan ser recomputadas, por supuesto, porque—creemos—esto es lo que realmente genera tu experiencia.)
• No creo que el intelecto humano sea lo suficientemente poderoso como para traer a la existencia una mente sentiente imaginaria simplemente pensando en ella. Para una superinteligencia, es otro asunto. Podría simular internamente mentes sentientes. Pero esta es una proposición muy diferente a que los personajes literarios en una novela sean conscientes, o que nosotros podríamos ser tales personajes.
• ¿Cómo sabemos exactamente que no hay suficiente contenido de información y computación ocurriendo cuando un humano está leyendo una novela, que los personajes descritos cobran vida lo suficiente como para que no podamos estar seguros de que no somos tales personajes? Claramente no estamos representando explícitamente una mente compuesta de cien billones de sinapsis cuando leemos una novela; pero no parece obvio que una representación explícita con ese nivel de granularidad sería necesaria para producir las experiencias subjetivas en cuestión.
• Tessius: Tal vez una forma de abordar esto: Supón que estás leyendo sobre un personaje imaginario que está pilotando un avión en la Segunda Guerra Mundial. Pero tú, el lector, nunca has pilotado un avión. No hay forma en que tu cerebro sea capaz de implementar los cálculos que se requerirían para pilotar con éxito un caza de la era de la Segunda Guerra Mundial. Entonces, ¿cómo podrían implementarse los cálculos necesarios que generarían con precisión la experiencia de hacer eso?
• Firafix: No, supongo que eso no sería posible… Pero, ¿qué pasaría si consideramos un caso en el que el lector está “en el mismo nivel” que el personaje ficticio, y donde ella tiene las mismas habilidades y así sucesivamente?
• Tessius: ¿Estás afirmando que existen lectores que están “al mismo nivel” que nosotros? Yo, por mi parte, me declaro ofendido y agraviado.
• Firafix: ¡Principalmente me preguntaba si podría ser un personaje ficticio! Pero si somos personajes ficticios en un mundo ficticio, tal vez en el mundo en el que se está leyendo haya algunos lectores bastante inteligentes.
• Kelvin: Si los lectores fueran superinteligentes, y si su “lectura” consistiera esencialmente en realizar simulaciones internas detalladas de las redes neuronales de los personajes descritos en sus novelas, entonces sí. Pero no estamos hablando de la hipótesis de la simulación aquí. En cambio, estamos discutiendo la loca proposición de que podríamos ser personajes en una historia escrita y leída por seres humanos comunes, ¿verdad?
• Firafix: Bueno, tal vez podría haber lectores que son solo un poco más inteligentes que los humanos regulares pero no superinteligentes. Pero quizás sea mejor centrarse en el caso en el que tenemos un personaje ficticio que tiene habilidades lo suficientemente limitadas como para que al menos algunos lectores humanos puedan hacer todo lo que este personaje ficticio puede hacer. Si mis habilidades están así limitadas, ¿cómo podría saber entonces que no soy un personaje ficticio? O, supongo, una instancia de tal personaje ficticio que está siendo leído e imaginado por algún lector particular. ¿En lugar de ser una criatura real de carne y hueso?
• Quizás una forma de abordar esto: Supongamos que estás leyendo sobre un personaje imaginario que está piloteando un avión en la Segunda Guerra Mundial. Pero tú, el lector, nunca has pilotado un avión. No hay manera de que tu cerebro sea capaz de implementar los cálculos que se requerirían para pilotar con éxito un caza de la era de la Segunda Guerra Mundial. Entonces, ¿cómo podrían implementarse los cálculos necesarios que generarían con precisión la experiencia de hacer eso?
• Tessius: ¿Pero qué hay de tu punto anterior sobre el contenido de información, entonces? A menos que esté terriblemente equivocado, puedo recordar una gran cantidad de detalles específicos sobre mi pasado, más de lo que cualquier novelista se atrevería a escribir o cualquier lector a imaginar. En realidad, esta es una versión diferente del argumento sobre el contenido de información que estabas proponiendo inicialmente. Parecías sugerir que el hecho de que el cerebro humano contenga 10^14 sinapsis podría ser suficiente para establecer que los personajes ficticios no son conscientes, ya que un libro no contiene suficiente información para especificar qué están haciendo todas estas sinapsis en el cerebro del personaje ficticio. Pero ahora la idea es que el cerebro del lector está realizando la mayor parte de este trabajo. El libro contiene algunos empujones y apuntadores, pero el cerebro del lector está llenando la gran mayoría de la información requerida, a saber, utilizando sus propios conceptos, intuiciones e imaginación para representar lo ficticio
• Por cierto, esto puede ser un comentario al margen, pero me tiene un poco confundido los informes que escuchamos sobre pacientes con cerebro dividido, cuyos hemisferios, después de que la mayor parte de su conexión a través del cuerpo calloso ha sido cortada, parecen ser capaces de operar bastante independientemente y quizás con competencia a nivel personal. ¿Podríamos realmente estar caminando por ahí con suficiente materia neural para implementar a dos personas normales, y sin embargo, ordinariamente estar implementando solo a una? Parece un desperdicio.
• Tessius: En cualquier caso, no estoy al tanto de ninguna razón particular para suponer que, incluso si nuestros cerebros tienen este tipo de quasi-redundancia, la capacidad "de reserva" para experiencias conscientes adicionales realmente estaría en juego mientras leemos… Además, no somos muy buenos multitasking. Si nuestros cerebros a veces estuvieran implementando simultáneamente las experiencias conscientes de dos personas, utilizando piezas separadas de maquinaria neural, ¿no deberíamos poder aprovechar este circuito duplicado para, digamos, resolver la prueba de un teorema algebraico mientras al mismo tiempo hacemos complicados arreglos de programación para una reunión familiar? Por ejemplo, podrías estar modelando un personaje imaginario que estaba trabajando en probar el teorema en una parte de tu cerebro (o en un subconjunto de tus microcircuitos corticales), mientras que en otra parte (o en otro subconjunto de tu microcircuitería) estarías haciendo la planificación de eventos complicada. Pero yo, por mi parte, encontraría eso absolutamente imposible.
• Kelvin: Supongamos que hay un personaje ficticio y uno no ficticio, y que ambos tienen sus propias mentes conscientes separadas. Quizás no estés seguro de cuál de los dos eres. En este caso, podrías argumentar que deberías actuar principalmente como si fueras el no ficticio. El personaje ficticio tiende a no vivir mucho tiempo y sus elecciones tendrían menos oportunidad de tener consecuencias a largo plazo. Nota que no es su vida útil ni su impacto como se describe en la novela lo que importa aquí. Una novela podría decir que un personaje ficticio salvó el mundo y vivió feliz por un millón de años después. Pero esto no significa que algún mundo real fue salvado o que realmente existió algún personaje ficticio que tuvo un millón de años de verdadera experiencia fenomenal. Incluso bajo la premisa de que leer sobre un personaje ficticio puede llevar la experiencia de ese personaje a la realidad, esto solo se aplicaría a aquellas experiencias del personaje que el cerebro del lector modele en suficiente detalle. Así que la máxima cantidad de experiencia subjetiva que un personaje ficticio podría tener es la cantidad de experiencia que uno puede tener durante diez horas, o el tiempo que se tarde en leer un libro. Tessius: ¿Qué pasa si el libro es leído por muchas personas? Un best seller podría ser leído un millón de veces. Diez horas por un millón sería más largo que la vida humana ordinaria. Kelvin: Sí. Tessius: Entonces, ¿quizás deberíamos actuar como si fuéramos personajes en un best seller? ¿O quizás deberíamos incluso actuar de manera que sea más probable que el libro en el que estamos se convierta en un best seller? Kelvin: Sí. Tessius: ¿El imperativo narratológico? Creo que acabamos de probar que lo mejor que podrías hacer sería mostrarles el detrás a esas damas allá en la parada del autobús, Kelvin! Podría vender mil copias más... resultando en, ¿qué, diez horas por mil: diez mil horas—eso es más de un año, Kelvin. Quizás dividido entre los tres de nosotros. Aún así, cuatro meses de vida de Kelvin—¡vale la pena!
• Estoy insistiendo en esto, no porque sepamos con certeza que vivimos en un Gran Mundo, sino porque (a) es bastante probable que lo hagamos y (b) las implicaciones son tan sorprendentes. (Pero también es posible que nuestra forma básica de conceptualizar posibilidades que aparentemente involucran infinitos físicos esté de alguna manera profundamente errada.)
• “El único problema que tengo es que no tengo problemas—la vida, sabes, es simplemente demasiado perfecta, y realmente me molesta!”.
• “No hay país ni pueblo, creo, que pueda anticipar la era del ocio y de la abundancia sin un temor. Porque hemos sido entrenados demasiado tiempo para luchar y no para disfrutar. Es un problema aterrador para la persona común, sin talentos especiales, ocupar su tiempo, especialmente si ya no tiene raíces en la tierra o en la costumbre o en las queridas convenciones de una sociedad tradicional. A juzgar por el comportamiento y los logros de las clases adineradas hoy en cualquier rincón del mundo, ¡las perspectivas son muy deprimentes! Porque estos son, por así decirlo, nuestra vanguardia—los que están explorando la tierra prometida para el resto de nosotros y levantando su campamento allí.”
• “Los Skidelskys tienen una concepción exaltada del ocio. Dicen que el verdadero sentido de la palabra es ‘actividad sin fin extrínseco’: ‘El escultor absorto en tallar mármol, el profesor empeñado en transmitir una idea difícil, el músico luchando con una partitura, un científico explorando los misterios del espacio y el tiempo—tales personas no tienen otro objetivo que hacer bien lo que están haciendo.’ Eso no es cierto. La mayoría de estas personas son logradores ambiciosos que buscan reconocimiento. Y es ridículo pensar que si las personas trabajaran solo 15 o 20 horas a la semana, utilizarían su ocio para tallar mármol o luchar con una partitura musical. Si les faltaran productos y servicios de consumo para llenar su tiempo, pelearían, robarían, comerían en exceso, beberían y se quedarían despiertos hasta tarde.”
• "Millones anhelan la inmortalidad que no saben qué hacer consigo mismos en una lluviosa tarde de domingo."
• QUÉ HACER CUANDO NO HAY NADA QUE HACER Construir castillos de arena, ir al gimnasio, leer en la cama, dar un paseo con tu cónyuge o un amigo, hacer jardinería, participar en danzas folclóricas, descansar al sol, practicar un instrumento, jugar una partida de bridge, escalar una pared de roca, jugar voleibol de playa, jugar al golf, observar aves, ver una serie de televisión, cocinar la cena para amigos, salir de fiesta, redecorar la casa, construir una casa en el árbol con niños, tejer, pintar un paisaje, aprender matemáticas, viajar, participar en recreaciones históricas, escribir un diario, chismear sobre conocidos, mirar a personas famosas, hacer windsurf, tomar un baño, rezar, jugar videojuegos, visitar la tumba de un ancestro, sacar a pasear a un perro, tomar una taza de té, correr un maratón, participar en un intercambio ingenioso de palabras, ver un partido de fútbol, ir de compras, asistir a un concierto, protestar contra una injusticia, hacer un picnic, ir de campamento, comer helado, organizar un juego de misterio de asesinato, jugar con LEGOs, hacer una cata de vinos, recibir un masaje, aprender sobre historia, hacer un retiro en silencio, consumir drogas, hacerse la manicura, asistir a un ritual religioso, mantenerse al tanto de las noticias, interactuar en redes sociales, explorar entornos de realidad virtual, hacer kayak, aprender a volar un avión deportivo, jugar en un casino, servir un martini, celebrar una festividad, investigar tu árbol genealógico, participar en una limpieza vecinal, cantar en un coro, meditar, esculpir calabazas, nadar, resolver un crucigrama, visitar amigos, hacer el amor, conducir en un derby de demolición, biohackearse para optimizar el rendimiento físico y mental, asistir a una reunión de astronomía amateur, crear una cápsula del tiempo, enseñar algo que sabes a un joven, ver una puesta de sol, ir a una fiesta de disfraces, discutir sobre filosofía moral, juzgar una competencia de peces koi (“joyas vivientes”), coleccionar antigüedades, asistir a una conferencia… La lista sigue.
• El aburrimiento es en realidad un tema importante, y lo discutiremos más a fondo mañana. Por ahora, solo diré que parece bastante posible que, con cambios apropiados en la educación y la cultura, sentiríamos menos aburrimiento en un mundo post-trabajo de lo que sentimos hoy. Aparte de presentar la oportunidad de adaptar la educación y la cultura para fomentar un ocio gratificante, los mayores niveles de riqueza y una mejor tecnología también facilitarían la construcción de instituciones e infraestructura que apoyen una amplia gama de actividades placenteras y satisfactorias. Pero, ¿qué pasaría si la automatización universal lleva a un aumento en el aburrimiento? Mi suposición es que, aun así, sería un buen resultado en general, considerando a las muchas personas alrededor del mundo que actualmente viven en una pobreza tan abyecta que ser catapultados hacia una gran riqueza tendría que ser considerado como una gran mejora, incluso si resultara en una vida de cierto tedio y disolución frívola. Pelear, robar, comer en exceso, beber y dormir hasta tarde puede que no constituya la mejor vida, pero incluso eso podría ser mucho mejor que una de privación o un esfuerzo incesante bajo el yugo de algún cruel y molestoso capataz
• La solución a la redundancia superficial es desarrollar una cultura del ocio. La cultura del ocio elevaría y educaría a las personas para prosperar en el desempleo. Fomentaría intereses y pasatiempos gratificantes, y promovería la espiritualidad y la apreciación de las artes, la literatura, los deportes, la naturaleza, los juegos, la comida y la conversación, así como otros dominios que pueden servir como espacios de juego para nuestras almas que nos permitan expresar nuestra creatividad, aprender sobre los demás y sobre nosotros mismos y sobre el entorno, mientras nos divertimos y desarrollamos nuestras virtudes y potencialidades. Una cultura del ocio basaría el autoestima y el prestigio en factores distintos a la contribución económica, y los individuos construirían sus identidades sociales en torno a roles diferentes al de proveedor (aunque podría haber entornos similares a juegos que permitan a aquellos que anteriormente destacaron en el rendimiento financiero exhibir y ganar reconocimiento por su ingenio).
• Por un lado, seguramente tenemos razones para perseguir el desarrollo de capacidades tecnológicas que nos permitan obtener más de lo que queremos con menos esfuerzo. Eso es casi parte de la definición de racionalidad: que uno busca medios eficientes para sus fines. Ciertamente, nuestra sociedad está dedicando un gran esfuerzo al progreso tecnológico y económico, y otorgamos premios a las personas que lo hacen posible. Y sin embargo, por otro lado, si y cuando nuestros esfuerzos por aumentar la eficiencia con la que podemos alcanzar nuestros objetivos tengan pleno éxito, supuestamente entraremos en una condición en la que o estamos terminalmente aburridos o nos convertimos en receptores pasivos de una satisfacción narcotizada. Ninguna de las dos alternativas suena atractiva. Así que parece que tenemos razones para trabajar para lograr una condición X y que sería muy malo si lográramos X. En otras palabras, la conclusión parecería ser que deberíamos dedicar enormes recursos a lograr algo mientras al mismo tiempo esperamos desesperadamente fracasar. No es exactamente una contradicción lógica, pero ciertamente sería una situación extraña en la que estar.
• El aburrimiento en este sentido es definitivamente evitable en la madurez tecnológica. El placer, la fascinación, la absorción alegre y otros estados psicológicos que excluyen el aburrimiento, están (trivialmente) entre las cosas que una civilización tecnológicamente madura y próspera podría generar. Esta es una implicación directa de la autopotencia. De hecho, los estados mentales que excluyen el aburrimiento podrían generarse en prodigiosa cantidad y grado, por medios neurotecnológicos (como la ingeniería genética, la estimulación cerebral, sustancias farmacológicas o la nanomedicina) o diseñando o modificando adecuadamente mentes digitales. Lejos de ser una consecuencia inevitable de la perfección tecnológica, entonces, el aburrimiento como experiencia subjetiva podría ser completamente abolido en la madurez tecnológica. Ahora consideremos el aburrimiento como una atribución objetiva. Podríamos decir que un libro o una fiesta son aburridos, y con ello no necesariamente queremos decir que alguien se sienta aburrido, sino que el objeto en cuestión tiene varios atributos cuya presencia se resume y expresa con la etiqueta "ABURRIDO". Si bien es difícil dar una caracterización precisa de esta propiedad de aburrimiento, podemos interpretarla como un déficit de características como novedad, relevancia, significancia y desafío valioso. Si una civilización tecnológicamente madura puede evitar tener esta propiedad de aburrimiento y en qué medida, es una pregunta más difícil y sutil que si puede evitar contener sentimientos subjetivos de aburrimiento.
• Podrías pensar que si los utópicos extirparan su capacidad de sentir aburrimiento, entonces estarían perfectamente contentos con las preocupaciones más simples y monótonas, como ver secar la pintura; y que entonces no se molestarían en hacer nada más interesante con el futuro que ocasionalmente repintar una pared para poder verla secar; y que el futuro consistiría en un grupo de personas mirando paredes recién pintadas. Este futuro, aunque libre de aburrimiento, estaría lleno de monotonía. Tal futuro parecería bastante decepcionante en comparación con las posibilidades alternativas que podríamos imaginar.
• Entrecerrando un poco los ojos, uno podría ver los servicios de streaming y los sistemas de recomendación de hoy en día como (formas muy primitivas de prótesis de aburrimiento algo desalineadas). En el caso ideal, nos mantienen consumiendo un flujo de contenido personalizado indefinidamente—con interludios adecuados en los que compramos todas las cosas que nos empujan en los anuncios. El mecanismo selecciona nuevo contenido para prevenir el aburrimiento, asegurando que nos mantengamos "comprometidos". El problema es que, aunque estos sistemas comerciales pueden ser algo efectivos para evitar el aburrimiento subjetivo, generalmente no están diseñados para evitar la aburrición objetiva.
• Dicho esto, debo admitir que todavía hay una preocupación de que, a medida que consideramos intervalos cada vez más largos, puede llegar un momento en que todas las actividades disponibles para alguien se vuelvan objetivamente poco interesantes, porque toda novedad e interés se haya agotado.
• Beber té (o café, si lo prefieres) puede que no sea una fuente de un intenso destello de valor, de la manera en que una epifanía sobre alguna verdad profunda de la naturaleza humana puede ser si el descubrimiento de tales verdades tiene un valor de interés. Pero es bastante renovable. La 162,330ª taza de té, en tu 200º cumpleaños, puede no ser menos valiosa que la que tuviste un siglo antes. Y aunque el suministro de verdades profundas accesibles para los humanos podría ser limitado, siempre puedes poner otra tetera a calentar.

Ética y Filosofía Moral

• No importa cuán afluente sea todo el mundo—de hecho, especialmente si todos son muy ricos—podrías, en principio, crear felicidad adicional al traer a más personas felices a la existencia. Ciertamente hay personas que piensan que eso sería algo bueno, como los utilitaristas totales, y que, por lo tanto, podrían seguir motivados.
• A menudo pensamos que la desigualdad económica es algo malo. Sin embargo, en un contexto maltusiano, parece tener un lado positivo. Dado el crecimiento poblacional sin restricción, la desigualdad es la única forma en que al menos una fracción de la población puede disfrutar de ingresos consistentemente por encima del nivel de subsistencia. Si se sostiene que es intrínsecamente importante que existan al menos algunas personas que gocen de las cosas más finas de la vida, entonces tal arreglo desigual podría considerarse mejor que uno en el que exista un número ligeramente mayor de personas pero donde todos tienen una vida de "muzak y papas" (para tomar prestada una frase de Derek Parfit). Históricamente, también ha habido beneficios instrumentales al tener a algunas personas ricas que podrían patrocinar las artes y las ciencias y crear bolsas de privilegio, lo suficientemente aisladas de la lucha inmediata por la supervivencia, para que se pudiera invertir en cosas nuevas y probarlas.
• La idea es que podría haber resultados que son factibles de cualquier otra manera, y son altamente deseables, sin embargo, los cuales son imposibles para nosotros de alcanzar moralmente. Esto es más fácil de ver si consideramos un sistema ético que incluye principios deontológicos. Por ejemplo, algunas personas podrían sostener (incorrectamente, en mi opinión) que hay una prohibición moral absoluta contra el uso de la ingeniería genética para mejorar las capacidades humanas. Supongamos que una prohibición similar se aplicaría a cualquier otra tecnología mediante la cual se pudieran lograr resultados comparables (quizás sobre la base de que todas implicarían "jugar a ser Dios"). Entonces podría ser el caso de que, aunque el resultado en el que los humanos o posthumanos disfrutan de vidas felices con capacidades mejoradas sería preferible al mundo presente—y quizás a cualquier futuro alternativo—sin embargo, ningún camino moralmente permisible hacia este resultado superior esté abierto para nosotros.
• Piensa en cuán más desafiante sería el trabajo de un autor si los personajes en sus novelas, simplemente al ser imaginados por el autor o el lector, estuvieran, por lo tanto, experimentando estados fenomenales. Eso podría hacer moralmente impermisible escribir tragedias y relatos de desdicha.
• Los filósofos han desarrollado diversas explicaciones sobre qué otorga a un ser un estatus moral. En algunas de estas, la conciencia (o la capacidad de conciencia) no es una condición necesaria para tener estatus moral. Si bien se reconoce generalmente que tener capacidad para sufrir es una condición suficiente para tener al menos alguna forma de estatus moral, podría haber atributos alternativos que podrían fundamentar el estatus moral—como tener una concepción sofisticada de uno mismo como persiguiendo a través del tiempo; tener agencia y la capacidad de seguir planes a largo plazo; ser capaz de comunicarse y responder a razones normativas; tener preferencias y poderes; estar en ciertas relaciones sociales con otros seres que tienen estatus moral; ser capaz de hacer compromisos y de entrar en acuerdos recíprocos; o tener el potencial de desarrollar algunos de estos atributos. Si el estatus moral puede basarse en cualquiera de esos rasgos, entonces habría una clase adicional de seres que no podrían ser traídos a la existencia sin que ello también implique la creación de responsabilidades morales que podrían restringir cómo se puede usar o tratar a estos seres.
• IMPEDIMENTOS POTENCIALES A LA AUTOMATIZACIÓN
• Sentiencia y paciencia moral
• Regulación
• Simbolismo de estatus
• Solidaridad
• Religión, costumbre, sentimentalismo e intereses peculiares
• Confianza y datos
• Uno podría pensar que a medida que nuestros desafíos se vuelven más pequeños y más locales y se convierten en menos una cuestión de vida o muerte, su capacidad para generar pasión y compromiso disminuiría. Pero este no es claramente el caso. Más personas saltan de sus asientos cuando su equipo de fútbol anota un gol que cuando una agencia internacional publica un informe diciendo que cien mil niños menos murieron de enfermedades prevenibles este año que el pasado. (Tomamos esto como completamente normal, pero me pregunto, si pudiéramos vernos a nosotros mismos a través de los ojos de los ángeles, si no reconoceríamos en este patrón de emoción e indiferencia algo bastante perverso: los sentimientos distorsionados de un degenerado moral. ¿No es, implícitamente, una especie de dedo medio emocional hacia el sufrimiento y la desesperación de otros seres sintientes?)
• Así que ahora, cada hora de tiempo de calidad que pasas con tu hijo es una hora de tiempo de calidad aún mayor de la que se ve privado al pasar con el robot. Pasar la hora con el cuidador artificial sería, suponemos, más divertido para el niño, así como más educativo y más nutritivo para sus necesidades emocionales y sociales. Podrías elegir jugar con tu hijo tú mismo; pero al hacerlo estarías priorizando egoístamente tu propio disfrute a expensas del bienestar y desarrollo del niño. Aunque esto podría brindarte algo de diversión, difícilmente llenaría tu vida de propósito.
• El fundamento para tal posición sería similar al fundamento por el cual uno podría pensar, en general, que sería indeseable o al menos subóptimo pasar el resto de su vida en la máquina de experiencias de Nozick (a la que volveremos en breve). Este experimento mental ha sido considerado para demostrar que nuestro bienestar tiene un componente objetivo—que qué tan bien van nuestras vidas para nosotros no se determina únicamente por nuestros estados mentales, por lo que pensamos y sentimos, sino también por nuestra relación con la realidad externa. Desde este punto de vista, importa si nuestras creencias son verdaderas y nuestros proyectos exitosos, independientemente de si alguna vez lo descubrimos. En la misma línea, podría importar si realmente mantenemos contacto con alguien con quien nos hemos vinculado. Interactuar con un simulacro de esta persona sería, ceteris paribus, menos bueno, incluso si nunca notamos la diferencia. Uno podría, por ejemplo, tener la intuición de que es malo para un esposo ser engañado incluso si nunca descubre la traición y aunque su esposa no cambie su comportamiento hacia él. Y—si uno sostiene este punto de vista—también podría pensar que podría ser malo para un niño si, una noche mientras dormían, sus padres fueran reemplazados por un conjunto indistinguible de impostores robóticos.
• Nozick escribe: “Supongamos que hubiera una máquina de experiencia que te daría cualquier experiencia que desearas. Neuropsicólogos súper avanzados podrían estimular tu cerebro para que pensaras y sintieras que estás escribiendo una gran novela, o haciendo un amigo, o leyendo un libro interesante. Todo el tiempo estarías flotando en un tanque, con electrodos conectados a tu cerebro. ¿Deberías conectarte a esta máquina de por vida, preprogramando las experiencias de tu vida?” Nozick argumenta que si rechazamos la oferta de conectarnos, demuestra que valoramos cosas además de (o además de) la experiencia subjetiva.
• Esta sublimación de NPCs en VPCs requeriría un gran estallido de computación—quizás se necesitaría simular toda una infancia y historias personales para generar los VPCs completamente realistas con los que estás a punto de entablar una conversación. Aunque los VPCs harían técnicamente viable generar una amplia gama de experiencias de interacción, el uso de VPCs introduciría complicaciones morales. Podría ser imposible para ti tener ciertas experiencias en la máquina de la experiencia sin violar restricciones éticas, tal como sería en la realidad externa.
• Se ha propuesto una versión “multijugador” de la máquina de experiencias (incluyendo al propio Nozick), en la que muchas personas se conectan juntas a la máquina de experiencias. Esto nos permitiría tener interacciones reales con otras personas reales, incluyendo a personas específicas que ya existen y que son importantes para nosotros, lo que eliminaría una razón común para rechazar entrar en la máquina de experiencias. Sin embargo, en este escenario ya no tienes control total sobre las experiencias que tienes, ya que eso dependerá ahora de las elecciones independientes de otras personas. Este escenario, por lo tanto, viola una premisa clave del experimento mental original.
• La pregunta podría ser, si nuestros sueños se volvieran mucho más detallados, realistas y coherentes, si, cuando soñamos con otras personas, esas personas podrían no entrar en existencia suficientemente como para convertirse en pacientes morales. Entonces podría ser moralmente problemático soñar o fantasear suficientemente de manera realista acerca de otras personas sin su consentimiento previo (y sin satisfacer varias otras restricciones éticas).
• Firafix: ¿Cómo podríamos—digo—si consideráramos a los personajes de ficción como si tuvieran algún estatus moral, ¿qué deberíamos hacer al respecto? Tessius: No lo he pensado bien. Tal vez, con otras cosas iguales, deberíamos escribir más comedias y menos tragedias. Más finales felices. Me gusta el hecho de que muchas historias terminan con "y vivieron felices para siempre". Pero tal vez los monstruos también deberían vivir felices para siempre. Firafix: Me funcionaría. De todos modos, generalmente prefiero leer historias felices. Pero puede que tenga un gusto poco común. Kelvin: Hay cierto valor en entender las cosas malas, para que podamos trabajar de manera más efectiva para contrarrestarlas. Pero sí, en general, probablemente debería haber más inclinación hacia lo positivo. Podría haber otras razones para eso también.
• Incluso sin conflicto o malevolencia, los aumentos de poder no son axiomáticamente beneficiosos. Es posible usar el poder de manera imprudente. Creo que si queremos especificar un conjunto de propiedades civilizacionales que se acerque a lo axiomáticamente beneficioso, tendría que incluir al menos tres atributos: no solo poder sobre la naturaleza, sino también cooperación con nuestros semejantes, y también sabiduría. Y aun así no es axiomático. Con gran sabiduría y cooperación, el progreso tecnológico podría resultar dañino si tenemos mala suerte. Podemos tomar sabiamente un riesgo que valga la pena ex ante; solo para descubrir, ex post, que fue un error.
• Si has leído las reflexiones de Nozick sobre su máquina de experiencias, puede que recuerdes que escribió: “Queremos que nuestras emociones, o ciertas emociones importantes, se basen en hechos que sean reales y que sean adecuadas... Lo que queremos y valoramos es una conexión real con la realidad.”
• Los filósofos a veces se refieren a aquellas cosas que son (o, en relatos metaéticos más objetivistas, deberían ser) valoradas por sí mismas como "valores finales".
• Hechos psicológicos y culturales sobre lo que valoramos de esta manera—y, en algunas perspectivas metaéticas, también hechos sobre lo que es valioso de esta manera—pueden cambiar con el tiempo. En este sentido, los valores finales van y vienen.
• ¿Qué tan buena es esta vida para la persona cuya vida es? ¿Cuánto bien contribuye esta vida (directamente, por su propia existencia, en contraposición a través de sus efectos causales más amplios) al mundo? Las respuestas a estas preguntas pueden diferir. Por ejemplo, de acuerdo con el utilitarismo promedio, una vida podría ser buena para la persona pero mala para el mundo. Esto sucedería si el bienestar de esa vida es alto, pero no tan alto como el nivel promedio de bienestar en el mundo. Más generalmente, a menos que el valor del mundo sea una simple suma de los valores de las vidas individuales que contiene, no deberíamos esperar que las respuestas a las dos preguntas coincidan.