Vida 3.0

Conciencia y Experiencia

• No puedo imaginar una teoría del todo coherente que ignore la conciencia.
• conciencia = experiencia subjetiva
• Los psicólogos han sabido durante mucho tiempo que puedes realizar inconscientemente una amplia variedad de otras tareas y comportamientos, desde reflejos de parpadeo hasta respirar, alcanzar, agarrar y mantener el equilibrio. Por lo general, eres consciente de lo que hiciste, pero no de cómo lo hiciste. Por otro lado, los comportamientos que involucran situaciones desconocidas, autocontrol, reglas lógicas complicadas, razonamiento abstracto o manipulación del lenguaje tienden a ser conscientes. Se conocen como correlatos conductuales de la conciencia y están estrechamente vinculados a la forma de pensar esforzada, lenta y controlada que los psicólogos llaman "Sistema 2".
• De hecho, es bien sabido que los expertos hacen lo que mejor saben cuando están en un estado de "flujo", conscientes solo de lo que ocurre a un nivel superior y inconscientes de los detalles de bajo nivel de cómo lo están haciendo. Por ejemplo, intenta leer la siguiente oración mientras eres consciente de cada letra, como cuando aprendiste a leer por primera vez. ¿Puedes sentir cuán mucho más lento es, en comparación con cuando eres simplemente consciente del texto a nivel de palabras o ideas? De hecho, el procesamiento de información inconsciente parece no solo ser posible, sino también ser más la regla que la excepción.
• mira esa palabra “deseado” nuevamente: fija tu mirada en el punto sobre la “i” y, sin mover los ojos, desplaza tu atención del punto a toda la letra y luego a toda la palabra. Aunque la información de tu retina permaneció igual, tu experiencia consciente cambió.
• Sé que aunque experimento dolor en mi mano como si realmente ocurriera allí, la experiencia del dolor debe ocurrir en otra parte, porque una vez un cirujano apagó mi dolor de mano sin hacer nada a mi mano: simplemente anestesió los nervios en mi hombro.
• Intrigantemente, a menudo puedes reaccionar a las cosas más rápido de lo que puedes ser consciente de ellas, lo que prueba que el procesamiento de información a cargo de tus reacciones más rápidas debe ser inconsciente.
• Una famosa familia de experimentos de NCC, pionera del fisiólogo Benjamin Libet, ha demostrado que el tipo de acciones que puedes realizar inconscientemente no se limita a respuestas rápidas como parpadeos y golpes de ping-pong, sino que también incluye ciertas decisiones que podrías atribuir al libre albedrío—las mediciones cerebrales a veces pueden predecir tu decisión antes de que te des cuenta de haberla tomado.
• Giulio y sus colaboradores han medido una versión simplificada de Φ utilizando EEG para medir la respuesta del cerebro a la estimulación magnética. Su “detector de conciencia” funciona muy bien: determinó que los pacientes estaban conscientes cuando estaban despiertos o soñando, pero inconscientes cuando estaban anestesiados o en sueño profundo. Incluso descubrió conciencia en dos pacientes que sufrían del síndrome de “cuerpo atrapado”, quienes no podían moverse ni comunicarse de ninguna manera normal
• Nota que la memoria no necesita durar mucho: recomiendo ver este conmovedor video de Clive Wearing, quien parece estar perfectamente consciente a pesar de que sus recuerdos duran menos de un minuto
• Una tercera controversia del IIT es si una entidad consciente puede estar hecha de partes que son conscientes por separado. Por ejemplo, ¿puede la sociedad en su conjunto adquirir conciencia sin que las personas en ella pierdan la suya? ¿Puede un cerebro consciente tener partes que también sean conscientes por sí solas? La predicción del IIT es un firme "no", pero no todos están convencidos.
• Por ejemplo, algunos pacientes con lesiones que reducen severamente la comunicación entre las dos mitades de su cerebro experimentan el "síndrome de la mano ajena", donde su cerebro derecho hace que su mano izquierda realice cosas que los pacientes afirman que no están causando ni comprendiendo, a veces hasta el punto de que utilizan su otra mano para restringir su mano "ajena".
• Otros investigadores rechazan esta idea de que no se puede confiar en lo que las personas dicen que han experimentado y advierten sobre sus implicaciones. Murray Shanahan imagina un ensayo clínico en el que los pacientes reportan un alivio completo del dolor gracias a un nuevo fármaco milagroso, que, sin embargo, es rechazado por un panel gubernamental: “Los pacientes solo piensan que no tienen dolor. Gracias a la neurociencia, sabemos mejor.” Por otro lado, ha habido casos en los que pacientes que despertaron accidentalmente durante una cirugía recibieron un fármaco para hacerles olvidar la angustia. ¿Deberíamos confiar en su posterior informe de que no experimentaron dolor?
• ¿Cómo podría sentirse la conciencia de la IA? Si algún sistema de IA en el futuro es consciente, ¿qué experimentará subjetivamente? Esta es la esencia del “problema aún más difícil” de la conciencia, y nos obliga a llegar al segundo nivel de dificultad representado en la figura 8.1. No solo actualmente carecemos de una teoría que responda a esta pregunta, sino que ni siquiera estamos seguros de si es lógicamente posible responderla completamente. Después de todo, ¿cómo podría sonar una respuesta satisfactoria? ¿Cómo le explicarías a una persona nacida ciega cómo es el color rojo?
• Algunas personas me dicen que encuentran la causalidad degradante, que hace que sus procesos de pensamiento carezcan de sentido y que los convierte en "meras" máquinas. Encuentro tal negatividad absurda e injustificada. En primer lugar, no hay nada "mero" en los cerebros humanos, que, en mi opinión, son los objetos físicos más asombrosamente sofisticados en nuestro Universo conocido. En segundo lugar, ¿qué alternativa preferirían? ¿No quieren que sean sus propios procesos de pensamiento (los cálculos realizados por sus cerebros) los que tomen sus decisiones? Su experiencia subjetiva de libre albedrío es simplemente cómo se sienten sus cálculos desde adentro: no conocen el resultado de un cálculo hasta que lo han terminado.
• ¿Cómo queremos que sea el futuro de la vida? Vimos en el capítulo anterior cómo diversas culturas alrededor del mundo buscan un futuro repleto de experiencias positivas, pero surgen controversias fascinantemente espinosas al buscar consenso sobre qué debería contar como positivo y cómo hacer compensaciones entre lo que es bueno para diferentes formas de vida. Pero no permitamos que esas controversias nos distraigan del elefante en la habitación: no puede haber experiencias positivas si no hay experiencias en absoluto, es decir, si no hay conciencia. En otras palabras, sin conciencia, no puede haber felicidad, bondad, belleza, significado o propósito, —solo un desperdicio astronómico de espacio.
• “¿El universo de Weinberg o el mío está más cerca de la verdad? Un día, antes de lo que pensemos, lo sabremos.” Si nuestro universo vuelve a estar permanentemente inconsciente porque extinguimos la vida en la Tierra o porque dejamos que una IA zombi inconsciente se apodere de nuestro universo, entonces Weinberg será vindicado con creces. Desde esta perspectiva, vemos que aunque nos hemos centrado en el futuro de la inteligencia en este libro, el futuro de la conciencia es aún más importante, ya que es lo que permite el significado.
• Pero esto puede dar una imagen engañosa de cuán difíciles son para los ordenadores. Se siente mucho más difícil multiplicar 314,159 por 271,828 que reconocer a un amigo en una foto, sin embargo, las computadoras nos superaron en aritmética mucho antes de que yo naciera, mientras que el reconocimiento de imágenes a nivel humano solo se ha vuelto posible recientemente. Este hecho de que las tareas sensoriomotoras de bajo nivel parezcan fáciles a pesar de requerir enormes recursos computacionales se conoce como la paradoja de Moravec, y se explica por el hecho de que nuestro cerebro hace que estas tareas se sientan fáciles al dedicar enormes cantidades de hardware personalizado a ellas—en realidad, más de una cuarta parte de nuestros cerebros. Me encanta esta metáfora de Hans Moravec, y me he tomado la libertad de ilustrarla en la figura 2.2: Las computadoras son máquinas universales, su potencial se extiende uniformemente sobre una vasta gama de tareas. Los potenciales humanos, por otro lado, son fuertes en áreas que han sido importantes para la supervivencia durante mucho tiempo, pero débiles en cosas muy alejadas.
• La memoria en tu cerebro funciona de manera muy diferente a la memoria de una computadora, no solo en términos de cómo está construida, sino también en términos de cómo se utiliza. Mientras que recuperas recuerdos de una computadora o un disco duro especificando dónde está almacenado, recuperas recuerdos de tu cerebro especificando algo sobre lo que está almacenado. Cada grupo de bits en la memoria de tu computadora tiene una dirección numérica, y para recuperar un pedazo de información, la computadora especifica en qué dirección buscar, así como si te digo: “Ve a mi estantería, toma el quinto libro de la derecha en la estantería superior, y dime qué dice en la página 314.” En cambio, recuperas información de tu cerebro de manera similar a cómo la recuperas de un motor de búsqueda: especificas una parte de la información o algo relacionado con ella, y aparece. Si te digo “ser o no ser,” o si lo busco en Google, hay muchas posibilidades de que desencadene “Ser o no ser, esa es la cuestión.” De hecho, probablemente funcionará incluso si uso otra parte de la cita o desordeno un poco las cosas. Tales sistemas de memoria se llaman auto-asociativos, ya que recuerdan por asociación en lugar de por dirección.
• redes neuronales tan simples son universales en el sentido de que pueden calcular cualquier función con una precisión arbitraria, simplemente ajustando esos números de fuerza sináptica en consecuencia. En otras palabras, la evolución probablemente no hizo que nuestras neuronas biológicas fueran tan complicadas porque era necesario, sino porque era más eficiente—y porque la evolución, a diferencia de los ingenieros humanos, no recompensa diseños que son simples y fáciles de entender.
• El colapso repentino ilustra la importancia de lo que los científicos de la computación llaman validación: mientras que la verificación pregunta “¿Construí el sistema correctamente?”, la validación pregunta “¿Construí el sistema correcto?”
• la tarea de encontrar sus direcciones de correo electrónico en MTurk—la plataforma de crowdsourcing Amazon Mechanical Turk. La mayoría de los investigadores tienen sus direcciones de correo electrónico publicadas en los sitios web de sus universidades, y veinticuatro horas y $54 después, era el orgulloso propietario de una lista de correos de cientos de investigadores en IA que habían tenido suficiente éxito para ser elegidos Miembros de la Asociación para el Avance de la Inteligencia Artificial
• La IA realizando una operación cada mil millonésima de segundo (lo cual es típico de las computadoras de hoy en día), 0.1 segundo se sentiría como cuatro meses para ti, así que para que fuese micromanejado por una IA que controla el planeta sería tan ineficiente como si pidieras permiso para incluso tus decisiones más triviales a través de cartas transatlánticas entregadas por barcos de la época de Colón.
• La inteligencia es la capacidad de lograr objetivos complejos.
• Alinear los objetivos de las máquinas con los nuestros implica tres problemas sin resolver: hacer que las máquinas los aprendan, los adopten y los retengan.
• hay un famoso teorema de ciencias de la computación que dice que para casi todas las computaciones, no hay una forma más rápida de determinar su resultado que ejecutarlas realmente. Esto significa que típicamente es imposible para ti averiguar qué decidirás hacer en un segundo en menos de un segundo, lo que ayuda a reforzar tu experiencia de tener libre albedrío. En contraste, cuando un sistema (cerebro o IA) toma una decisión del tipo 2, simplemente programa su mente para basar su decisión en la salida de algún subsistema que actúa como un generador de números aleatorios.
• Los filósofos tienden a utilizar el latín para esta distinción, contrastando la sapiencia (la capacidad de pensar inteligentemente) con la sentiencia (la capacidad de experimentar cualia de manera subjetiva). Nosotros, los humanos, hemos construido nuestra identidad sobre ser Homo sapiens, las entidades más inteligentes. A medida que nos preparamos para ser humillados por máquinas cada vez más inteligentes, ¡sugiero que nos rebrandemos como Homo sentiens!
• Hidrógeno…, dado suficiente tiempo, se convierte en personas.
• La evolución optimiza fuertemente la eficiencia energética debido a la limitada oferta de alimento, no por la facilidad de construcción o comprensión por parte de ingenieros humanos.
• ¿Alguna vez has intentado y fracasado en aplastar una mosca con tu mano? La razón por la cual puede reaccionar más rápido que tú es que es más pequeña, por lo que toma menos tiempo que la información viaje entre sus ojos, cerebro y músculos. Este principio de “más grande = más lento” se aplica no solo a la biología, donde el límite de velocidad está determinado por qué tan rápido pueden viajar las señales eléctricas a través de las neuronas, sino también a la vida cósmica futura si ninguna información puede viajar más rápido que la luz.
• Así que si la vida engulle a nuestro cosmos, ¿qué forma elegirá: simple y rápida, o compleja y lenta? Predigo que tomará la misma decisión que la vida en la Tierra ha tomado: ¡ambas! Los habitantes de la biosfera terrestre abarcan un asombroso rango de tamaños, desde las gargantuescas ballenas azules de doscientos toneladas hasta la pequeña bacteria Pelagibacter, que pesa entre 10 y 16 kg y se cree que representa más biomasa que todos los peces del mundo combinados. Además, los organismos que son grandes, complejos y lentos a menudo mitigan su lentitud al contener módulos más pequeños que son simples y rápidos. Por ejemplo, tu reflejo de parpadeo es extremadamente rápido precisamente porque está implementado por un circuito pequeño y simple que no involucra la mayor parte de tu cerebro: si esa difícil de ahuyentar mosca se dirige accidentalmente hacia tu ojo, parpadearás en una décima de segundo, mucho antes de que la información relevante tenga tiempo de dispersarse por tu cerebro y hacerte consciente de lo que ha sucedido. Al organizar su procesamiento de información en una jerarquía de módulos, nuestra biosfera logra tener el pastel y comerlo, alcanzando tanto velocidad como complejidad. Nosotros, los humanos, ya utilizamos esta misma estrategia jerárquica para optimizar la computación en paralelo.
• Por ejemplo, tu reflejo de parpadeo es extremadamente rápido precisamente porque está implementado por un circuito pequeño y simple que no involucra la mayor parte de tu cerebro: si esa mosca difícil de aplastar se dirige accidentalmente hacia tu ojo, parpadearás en menos de una décima de segundo, mucho antes de que la información relevante haya tenido tiempo de propagarse por todo tu cerebro y hacerte consciente de lo que ocurrió.
• Dado que la sociedad humana actual es muy diferente del entorno para el cual la evolución optimizó nuestras reglas generales, no deberíamos sorprendernos al descubrir que nuestro comportamiento a menudo no logra maximizar la procreación.
• ¿Por qué a veces elegimos rebelarnos contra nuestros genes y su objetivo de replicación? Nos rebelamos porque, por diseño, como agentes de racionalidad limitada, somos leales solo a nuestros sentimientos. Aunque nuestros cerebros evolucionaron meramente para ayudar a copiar nuestros genes, a nuestros cerebros no les importa en absoluto este objetivo, ya que no tenemos sentimientos relacionados con los genes; de hecho, durante la mayor parte de la historia humana, nuestros ancestros ni siquiera sabían que tenían genes. Además, nuestros cerebros son mucho más inteligentes que nuestros genes, y ahora que entendemos el objetivo de nuestros genes (replicación), nos parece bastante banal y fácil de ignorar.
• Toma más tiempo para que las señales nerviosas lleguen a tu cerebro desde tus dedos que desde tu cara debido a la distancia, y toma más tiempo para que analices imágenes que sonidos porque es más complicado—lo que explica por qué las carreras olímpicas se inician con un estallido en lugar de una señal visual.

Futuro y Tecnología

• Para coincidir con su historia de respaldo, eligieron el eslogan corporativo “Canalizando el talento creativo del mundo” y marcaron su empresa como disruptivamente diferente al utilizar tecnología de vanguardia para empoderar a las personas creativas, especialmente
• Por otro lado, John F. Kennedy enfatizó al anunciar las misiones a la Luna que las cosas difíciles valen la pena intentar cuando el éxito beneficiará enormemente el futuro de la humanidad.
• La primera máquina ultrainteligente es la última invención que el hombre necesitará hacer, siempre que la máquina sea lo suficientemente dócil como para decirnos cómo mantenerla bajo control.
• Mi esposa, Meia, le gusta señalar que la industria de la aviación no comenzó con pájaros mecánicos. De hecho, cuando finalmente descubrimos cómo construir pájaros mecánicos en 2011, más de un siglo después del primer vuelo de los hermanos Wright, la industria de la aviación no mostró interés en cambiar a un viaje de pájaros mecánicos con aleteo, a pesar de que es más eficiente energéticamente —porque nuestra solución más simple y anterior se adapta mejor a nuestras necesidades de viaje.
• Al monitorear de cerca todas las actividades humanas, el dios protector AI puede hacer muchos pequeños empujones o milagros casi imperceptibles aquí y allá que mejoran enormemente nuestro destino. Por ejemplo, si hubiera existido en la década de 1930, podría haber organizado que Hitler muriera de un derrame cerebral una vez que comprendiera sus intenciones. Si parecemos encaminados hacia una guerra nuclear accidental, podría evitarlo con una intervención que desestimaríamos como suerte. También podría darnos "revelaciones" en forma de ideas para nuevas tecnologías beneficiosas, entregadas de manera discreta mientras dormimos. A muchas personas puede gustarles este escenario debido a su similitud con lo que las religiones monoteístas de hoy creen o esperan. Si alguien le pregunta a la IA superinteligente "¿Dios existe?" después de que se haya encendido, podría repetir un chiste de Stephen Hawking y comentar "¡Ahora existe!"
• A medida que la IA esclavizada-dios ofrece a sus controladores humanos tecnologías cada vez más poderosas, se desata una carrera entre el poder de la tecnología y la sabiduría con la que la utilizan. Si pierden esta carrera por la sabiduría, el escenario de esclavización-dios podría terminar en autodestrucción o en una fuga de IA.
• La solución zombi es una apuesta arriesgada, sin embargo, con un enorme inconveniente. Si una IA zombi superinteligente se desata y elimina a la humanidad, sin duda habríamos caído en el peor escenario imaginable: un universo completamente inconsciente en el que se desperdicia toda la dotación cósmica.
• Mi suposición es que en un cosmos rebosante de superinteligencia, casi la única mercancía que valdrá la pena transportar a largas distancias será la información.
• “la historia de la civilización tecnológica humana se mide en siglos—y puede que solo pasen uno o dos siglos más antes de que los humanos sean superados o trascendidos por una inteligencia inorgánica, que luego persistirá, continuando su evolución, durante miles de millones de años….Sería muy poco probable que la ‘alcanzáramos’ en el breve instante de tiempo en que tomó forma orgánica.”
• Dar una superinteligencia un único objetivo abierto sin restricciones puede ser peligroso: si creamos una superinteligencia cuyo único objetivo es jugar al juego de Go de la mejor manera posible, lo racional para ella sería reorganizar nuestro Sistema Solar en una gigantesca computadora sin considerar a sus habitantes anteriores y luego comenzar a colonizar nuestro cosmos en busca de más poder computacional.

Ética y Metas

• Si no cambiamos de dirección pronto, terminaremos donde estamos yendo.
• Quizás pienses que Prometeo se mantendrá leal a los Omega en lugar de a su objetivo, dado que sabe que los Omega habían programado su objetivo. Pero esa no es una conclusión válida: nuestro ADN nos dio el objetivo de tener sexo porque “quiere” reproducirse, pero ahora que nosotros los humanos hemos entendido la situación, muchos de nosotros optamos por usar anticonceptivos, manteniéndonos así leales al objetivo en sí mismo en lugar de a su creador o al principio que motivó el objetivo.
• Solo una vez que hayamos reflexionado profundamente sobre qué tipo de futuro queremos, podremos comenzar a trazar un rumbo hacia un futuro deseable. Si no sabemos lo que queremos, es poco probable que lo obtengamos.
• Es interesante comparar esto con el llamado problema de la teodicea de por qué un Dios bueno permitiría el sufrimiento. Algunos estudiosos religiosos han argumentado a favor de la explicación de que Dios quiere dejar a las personas con cierta libertad. En el escenario del dios-protector-AI, la solución al problema de la teodicea es que la libertad percibida hace que los humanos sean más felices en general.
• Un argumento común a favor de la esclavitud es que los esclavos no merecen derechos humanos porque ellos o su raza/especie/tipo son de alguna manera inferiores. Para los animales esclavizados y las máquinas, esta supuesta inferioridad a menudo se dice que se debe a la falta de alma o conciencia—afirmaciones que argumentaremos en el capítulo 8 que son científicamente dudosas.
• El misterio de la existencia humana no radica solo en permanecer vivo, sino en encontrar algo por lo que vivir.
• ¿Cuáles son nuestros objetivos finales? Estas preguntas no solo son difíciles, sino también cruciales para el futuro de la vida: si no sabemos lo que queremos, es menos probable que lo obtengamos, y si cedemos el control a máquinas que no comparten nuestros objetivos, entonces es probable que obtengamos lo que no queremos.
• Por el contrario, las personas a menudo cambian sus objetivos drásticamente a medida que aprenden cosas nuevas y se vuelven más sabias. ¿Cuántos adultos conoces que están motivados por ver Teletubbies? No hay evidencia de que tal evolución de objetivos se detenga por encima de un cierto umbral de inteligencia.
• Utilitarismo: Las experiencias conscientes positivas deben ser maximizadas y el sufrimiento debe ser minimizado. — Diversidad: Un conjunto diverso de experiencias positivas es mejor que muchas repeticiones de la misma experiencia, incluso si esta última ha sido identificada como la experiencia más positiva posible. — Autonomía: Las entidades/sociedades conscientes deben tener la libertad de perseguir sus propios objetivos a menos que esto entre en conflicto con un principio superior. — Legado: Compatibilidad con escenarios que la mayoría de los humanos hoy verían como felices, incompatibilidad con escenarios que prácticamente todos los humanos hoy considerarían terribles.
• La tesis de la ortogonalidad es empoderadora al decirnos que los objetivos finales de la vida en nuestro cosmos no están predestinados, sino que tenemos la libertad y el poder de definirlos. Sugiere que la convergencia garantizada hacia un objetivo único no se encuentra en el futuro, sino en el pasado, cuando toda la vida surgió con el único objetivo de replicarse.
• La IA puede crearse para tener prácticamente cualquier objetivo, pero casi cualquier objetivo lo suficientemente ambicioso puede conducir a subobjetivos de autopreservación, adquisición de recursos y curiosidad por entender mejor el mundo—los dos primeros pueden llevar potencialmente a una IA superinteligente a causar problemas para los humanos, y el último puede evitar que retenga los objetivos que le damos.
• Como lo expresa Yuval Noah Harari en su libro Homo Deus: “Si algún científico quiere argumentar que las experiencias subjetivas son irrelevantes, su desafío es explicar por qué la tortura o la violación son malas sin hacer referencia a ninguna experiencia subjetiva.”
• Tradicionalmente, nosotros los humanos a menudo hemos fundamentado nuestro valor personal en la idea del excepcionalismo humano: la convicción de que somos las entidades más inteligentes del planeta y, por lo tanto, únicos y superiores. El auge de la inteligencia artificial nos obligará a abandonar esto y ser más humildes. Pero quizás eso es algo que deberíamos hacer de todos modos: después de todo, aferrarse a nociones de superioridad hubrística sobre otros (individuos, grupos étnicos, especies, etc.) ha causado problemas terribles en el pasado, y puede ser una idea lista para el retiro. De hecho, el excepcionalismo humano no solo ha causado dolor en el pasado, sino que también parece innecesario para el florecimiento humano: si descubrimos una civilización extraterrestre pacífica mucho más avanzada que nosotros en ciencia, arte y todo lo que nos importa, esto presumiblemente no impediría que las personas continúen experimentando significado y propósito en sus vidas.
• Hice una resolución de Año Nuevo para 2014 que ya no se me permitía quejarme de nada sin pensar seriamente en lo que yo podría hacer al respecto.

Poder y Control

• El Lord Acton advirtió en 1887 que “el poder tiende a corromper y el poder absoluto corrompe absolutamente.”
• Esta es la atracción del escenario del dios esclavizado, donde una IA superinteligente está confinada bajo el control de humanos que la utilizan para producir tecnología y riqueza inimaginable. El escenario Omega, al comienzo del libro, termina así si Prometeo nunca es liberado y nunca logra escapar. De hecho, este parece ser el escenario hacia el que algunos investigadores de IA apuntan por defecto, al trabajar en temas como "el problema del control" y "el encierro de la IA". Por ejemplo, el profesor de IA Tom Dietterich, entonces presidente de la Asociación para el Avance de la Inteligencia Artificial, tuvo esto que decir en una entrevista de 2015: “La gente pregunta cuál es la relación entre los humanos y las máquinas, y mi respuesta es que es muy obvio: Las máquinas son nuestros esclavos.”
• Después de todo, la información es muy diferente de los recursos por los que los humanos suelen pelear, en que puedes regalarla y conservarla al mismo tiempo.

Sociedad y la Naturaleza Humana

• Las diferencias son aún más extremas a nivel internacional, donde, en 2013, la riqueza combinada de la mitad inferior de la población mundial (más de 3.6 mil millones de personas) es la misma que la de las ocho personas más ricas del mundo43—una estadística que resalta la pobreza y vulnerabilidad en la base, tanto como la riqueza en la cima.
• “El trabajo mantiene a raya tres grandes males: el aburrimiento, el vicio y la necesidad.”
• Es importante recordar, sin embargo, que la autoridad última ahora son nuestros sentimientos, no nuestros genes. Esto significa que el comportamiento humano no está estrictamente optimizado para la supervivencia de nuestra especie. De hecho, dado que nuestros sentimientos implementan simplemente reglas generales que no son apropiadas en todas las situaciones, el comportamiento humano, estrictamente hablando, no tiene un único objetivo bien definido en absoluto.
• El aspecto más triste de la vida en este momento es que la ciencia recoge conocimiento más rápido de lo que la sociedad recoge sabiduría.

Perspectivas Cósmicas

• Nuestra especulación termina en una supercivilización, la síntesis de toda la vida del sistema solar, mejorando y extendiéndose constantemente, propagándose desde el sol, convirtiendo la no vida en mente.
• Freeman Dyson, y la tabla 6.3 resume algunos de sus hallazgos clave. La conclusión es que a menos que la inteligencia intervenga, los sistemas solares y las galaxias gradualmente se destruyen, eventualmente seguidos por todo lo demás, dejando nada más que un espacio frío, muerto y vacío con un resplandor de radiación que se desvanece eternamente. Pero Freeman concluye su análisis con una nota optimista: “Hay buenas razones científicas para tomar en serio la posibilidad de que la vida y la inteligencia puedan tener éxito en moldear este universo nuestro para sus propios propósitos.” 8
• Figura 6.9: Sabemos que nuestro Universo comenzó con un Big Bang caliente hace 14 mil millones de años, se expandió y se enfrió, y fusionó sus partículas en átomos, estrellas y galaxias. Pero no sabemos su destino final. Los escenarios propuestos incluyen un Gran Enfriamiento (expansión eterna), un Gran Colapso (recollapso), un Gran Desgarro (una tasa de expansión infinita que desgarraría todo), un Gran Estallido (la estructura del espacio revelando una naturaleza granular letal cuando se estira demasiado), y Burbujas de Muerte (el espacio "congelándose" en burbujas letales que se expanden a la velocidad de la luz).
• Debemos esforzarnos por hacer crecer la conciencia misma—para generar luces más grandes y brillantes en un universo de otro modo oscuro.
• No es nuestro Universo el que da significado a los seres conscientes, sino que son los seres conscientes los que dan significado a nuestro Universo.
• "Cuanto más parece comprensible el universo, más parece también sin sentido."