Homo Deus

Filosofía y Conciencia

• Ya hace miles de años, los filósofos se dieron cuenta de que no hay forma de probar de manera concluyente que alguien fuera de uno mismo tenga una mente. De hecho, incluso en el caso de otros humanos, simplemente asumimos que tienen conciencia; no podemos saberlo con certeza. ¿Quizás soy el único ser en todo el universo que siente algo, y todos los demás humanos y animales son solo robots sin mente?
• Un soldado católico que lucha en la Batalla de la Montaña Blanca podría decirse a sí mismo: ‘Es cierto, estoy sufriendo. Pero el Papa y el emperador dicen que estamos luchando por una buena causa, así que mi sufrimiento tiene sentido.’ Otto Dix empleó un tipo de lógica opuesta. Él veía la experiencia personal como la fuente de todo significado, por lo tanto, su línea de pensamiento decía: ‘Estoy sufriendo – y esto es malo – por lo tanto, toda la guerra es mala. Y si el káiser y el clero, no obstante, apoyan la guerra, deben estar equivocados.’
• Los activistas por el bienestar animal han expresado su preocupación por el sufrimiento que tales experimentos infligen a las ratas. El profesor Sanjiv Talwar de la Universidad Estatal de Nueva York, uno de los principales investigadores de las ratas robot, ha desestimado estas preocupaciones, argumentando que las ratas en realidad disfrutan de los experimentos. Después de todo, explica Talwar, las ratas 'trabajan por placer' y cuando los electrodos estimulan el centro de recompensa en su cerebro, 'la rata siente Nirvana'.
• ¿Qué, entonces, significa la vida? El liberalismo sostiene que no deberíamos esperar que una entidad externa nos proporcione un significado ya hecho. Más bien, cada votante, cliente y espectador individual debe ejercer su libre albedrío para crear significado no solo para su vida, sino para todo el universo.
• Uno de los artículos más importantes sobre la filosofía de la mente se titula ‘¿Qué se siente al ser un murciélago?’ En este artículo de 1974, el filósofo Thomas Nagel señala que una mente Sapiens no puede entender el mundo subjetivo de un murciélago. Podemos escribir todos los algoritmos que queramos sobre el cuerpo del murciélago, sobre los sistemas de ecolocación de los murciélagos y sobre el murciélago
• neuronas, pero no nos dirá cómo se siente ser un murciélago. ¿Cómo se siente localizar un polillo que agita sus alas? ¿Es similar a verlo, o es algo completamente diferente?
• Al equiparar la experiencia humana con patrones de datos, el Dataísmo socava nuestra principal fuente de autoridad y significado, y anuncia una tremenda revolución religiosa, como no se ha visto desde el siglo XVIII. En los días de Locke, Hume y Voltaire, los humanistas argumentaban que "Dios es un producto de la imaginación humana". El Dataísmo ahora le da a los humanistas una probada de su propia medicina y les dice: "Sí, Dios es un producto de la imaginación humana, pero la imaginación humana a su vez es el producto de algoritmos bioquímicos." En el siglo XVIII, el humanismo marginó a Dios al pasar de una visión del mundo deocéntrica a una visión del mundo homocéntrica. En el siglo XXI, el Dataísmo puede marginar a los humanos al pasar de una visión del mundo homocéntrica a una visión del mundo centrada en los datos.
• A continuación vinieron los humanistas, con una historia completamente nueva: ‘Los humanos inventaron a Dios, escribieron la Biblia y luego la interpretaron de mil maneras diferentes. Así que los propios humanos son la fuente de toda verdad. Puedes leer la Biblia como una creación humana inspiradora, pero no tienes que hacerlo. Si enfrentas algún dilema, simplemente escúchate a ti mismo y sigue tu voz interior.’ El humanismo luego dio instrucciones prácticas detalladas sobre cómo escucharte a ti mismo, recomendando cosas como ver puestas de sol, leer a Goethe, mantener un diario privado, tener charlas sinceras con un buen amigo y llevar a cabo elecciones democráticas.
• La inteligencia se está desacoplando de la conciencia.

• Estos tres procesos plantean tres preguntas clave, las cuales espero que se queden en tu mente mucho después de que hayas terminado este libro: 1. ¿Son los organismos realmente solo algoritmos, y es la vida realmente solo procesamiento de datos? 2. ¿Qué es más valioso: la inteligencia o la conciencia? 3. -Meditación Vipassana

Libre albedrío y toma de decisiones

• Las decisiones alcanzadas a través de una reacción en cadena de eventos bioquímicos, cada uno determinado por un evento previo, ciertamente no son libres
• Hasta donde llega nuestra comprensión científica, el determinismo y la aleatoriedad han dividido toda la torta entre ellos, dejando ni siquiera una migaja para la ‘libertad’. La sagrada palabra ‘libertad’ resulta ser, al igual que ‘alma’, un término vacío que no lleva ningún significado discernible. El libre albedrío existe solo en las historias imaginarias que nosotros, los humanos, hemos inventado.
• Esto es cierto. Los humanos actúan de acuerdo con sus deseos. Si por "libre albedrío" te refieres a la capacidad de actuar de acuerdo con tus deseos, entonces sí, los humanos tienen libre albedrío, y también lo tienen los chimpancés, los perros y los loros.
• Pero la pregunta del millón no es si los loros y los humanos pueden actuar de acuerdo a sus deseos internos, sino si pueden elegir sus deseos en primer lugar.
• ¿Por qué quiero comprar el auto rojo en lugar del negro? ¿Por qué prefiero votar por los conservadores en lugar del Partido Laborista? No elijo ninguno de estos deseos. Siento un deseo particular surgiendo dentro de mí porque esta es la sensación creada por los procesos bioquímicos en mi cerebro. Estos procesos podrían ser deterministas o aleatorios, pero no libres.
• Hoy en día podemos utilizar escáneres cerebrales para predecir los deseos y decisiones de las personas mucho antes de que sean conscientes de ellos. En un tipo de experimento, las personas son colocadas dentro de un enorme escáner cerebral, sosteniendo un interruptor en cada mano. Se les pide que presionen uno de los dos interruptores siempre que lo deseen. Los científicos que observan la actividad neural en el cerebro pueden predecir qué interruptor presionará la persona mucho antes de que realmente lo haga, e incluso antes de que la persona sea consciente de su propia intención. Los eventos neuronales en el cerebro que indican la decisión de la persona comienzan desde unos pocos cientos de milisegundos hasta unos pocos segundos antes de que la persona sea consciente de esta elección.
• La decisión de presionar el interruptor de la derecha o de la izquierda ciertamente refleja la elección de la persona. Sin embargo, no fue una elección libre. De hecho, nuestra creencia en el libre albedrío resulta de una lógica defectuosa. Cuando una reacción en cadena bioquímica me hace desear presionar el interruptor de la derecha, siento que realmente quiero presionar el interruptor de la derecha. Y esto es cierto. Realmente quiero presionarlo. Sin embargo, las personas erróneamente llegan a la conclusión de que si quiero presionarlo, elijo querer hacerlo. Esto es, por supuesto, falso. No elijo mis deseos. Solo los siento y actúo en consecuencia.
• discutieron durante siglos las relaciones entre el alma y la voluntad. Asumieron que cada ser humano tiene una esencia interna – llamada el alma – que es mi verdadero yo. Además, sostenían que este yo posee varios deseos, así como posee ropa, vehículos y casas. Supuestamente elijo mis deseos de la misma manera en que elijo mi ropa, y mi destino se determina de acuerdo con estas elecciones. Si elijo deseos buenos, voy al cielo. Si elijo deseos malos, me envían al infierno. Entonces surgió la pregunta, ¿cómo elijo exactamente mis deseos? ¿Por qué, por ejemplo, Eva deseó comer el fruto prohibido que la serpiente le ofreció? ¿Fue este deseo impuesto a ella? ¿Este deseo surgió de ella por pura casualidad? ¿O lo eligió "libremente"? Si no lo eligió libremente, ¿por qué castigarlo por ello?
• Puede sonar extremadamente complicado, pero es sorprendentemente fácil probar esta idea. La próxima vez que un pensamiento surja en tu mente, detente y pregúntate: ‘¿Por qué pensé este pensamiento en particular? ¿Decidí hace un minuto pensar este pensamiento, y solo entonces lo pensé? ¿O simplemente surgió en mi mente, sin mi permiso o instrucción? Si realmente soy el maestro de mis pensamientos y decisiones, ¿puedo decidir no pensar en nada durante los próximos sesenta segundos?’ Solo intenta, y ve qué pasa.
• Dudar del libre albedrío no es solo un ejercicio filosófico. Tiene implicaciones prácticas. Si los organismos efectivamente carecen de libre albedrío, esto implica que podríamos manipular e incluso controlar sus deseos utilizando drogas, ingeniería genética o estimulación cerebral directa.
• Además, el yo que experimenta suele ser lo suficientemente fuerte como para sabotar los planes mejor trazados del yo que narra. Por ejemplo, puedo hacer una resolución de Año Nuevo para comenzar una dieta e ir al gimnasio todos los días. Tales decisiones grandiosas son el monopolio del yo que narra. Pero la semana siguiente, cuando llega la hora del gimnasio, el yo que experimenta toma el control. No tengo ganas de ir al gimnasio, y en su lugar pido pizza, me siento en el sofá y enciendo la televisión.
• Muchas personas estarán contentas de transferir gran parte de sus procesos de toma de decisiones a un sistema así, o al menos consultar con él cada vez que enfrenten elecciones importantes. Google nos aconsejará qué película ver, dónde ir de vacaciones, qué estudiar en la universidad, qué oferta de trabajo aceptar e incluso a quién salir y con quién casarnos. "Escucha, Google", diré, "tanto John como Paul me están cortejando. Me gustan ambos, pero de manera diferente, y es tan difícil decidirme. Dado todo lo que sabes, ¿qué me aconsejas hacer?"
• Cuando contemplas a quién casar, qué carrera seguir y si empezar una guerra, el Dataísmo te dice que sería un desperdicio total de tiempo escalar una alta montaña y ver el sol ponerse sobre las olas. Sería igualmente inútil ir a un museo, escribir un diario privado o tener una conversación profunda con un amigo. Sí, para tomar las decisiones correctas debes conocerte mejor. Pero si quieres conocerte en el siglo veintiuno, hay métodos mucho mejores que escalar montañas, ir a museos o escribir diarios.

Tecnología e IA

• La formación de un médico humano es un proceso complicado y costoso que dura años. Cuando el proceso está completo, después de diez años de estudios y pasantías, lo que obtienes es un médico. Si quieres dos médicos, debes repetir todo el proceso desde cero. En contraste, si y cuando resuelvas los problemas técnicos que afectan a Watson, obtendrás no uno, sino un número infinito de médicos, disponibles 24/7 en cada rincón del mundo
• En 2010, solo el 2 por ciento de los estadounidenses trabajaba en la agricultura, el 20 por ciento trabajaba en la industria, y el 78 por ciento trabajaba como maestros, médicos, diseñadores de páginas web, y así sucesivamente. Cuando algoritmos sin sentido sean capaces de enseñar, diagnosticar y diseñar mejor que los humanos, ¿qué haremos?
• Ya hemos cruzado esta línea en lo que respecta a la medicina. En el hospital, ya no somos individuos. ¿Quién crees que tomará las decisiones más trascendentes sobre tu cuerpo y tu salud durante tu vida? Es muy probable que muchas de estas decisiones sean tomadas por algoritmos de computadora como Watson de IBM. Y esta no es necesariamente una mala noticia
• Y Google responderá: ‘Bueno, te conozco desde el día en que naciste. He leído todos tus correos electrónicos, grabado todas tus llamadas telefónicas y conozco tus películas favoritas, tu ADN y toda la historia de tu corazón. Tengo datos exactos sobre cada cita a la que has ido, y si quieres, puedo mostrarte gráficas segundo a segundo de tu frecuencia cardíaca, presión arterial y niveles de azúcar cada vez que saliste con John o Paul. Si es necesario, incluso puedo proporcionarte un ranking matemático preciso de cada encuentro sexual que tuviste con cualquiera de ellos. Y, naturalmente, los conozco tanto como a ti. Basado en toda esta información, en mis superb algoritmos y en décadas de estadísticas sobre millones de relaciones – te aconsejo que elijas a John, con un 87 por ciento de probabilidad de que estés más satisfecha con él a largo plazo.’
• Un estudio reciente encargado por el enemigo de Google – Facebook – ha indicado que ya hoy en día el algoritmo de Facebook es un mejor juez de las personalidades y disposiciones humanas, incluso que los amigos, padres y cónyuges de las personas. El estudio se llevó a cabo con 86,220 voluntarios que tienen una cuenta de Facebook y que completaron un cuestionario de personalidad de cien ítems. El algoritmo de Facebook predijo las respuestas de los voluntarios basándose en el monitoreo de sus "Me gusta" en Facebook – qué páginas web, imágenes y clips marcaron con el botón de "Me gusta". Cuantos más "Me gusta", más precisas eran las predicciones. Las predicciones del algoritmo se compararon con las de colegas de trabajo, amigos, familiares y cónyuges. Sorprendentemente, el algoritmo necesitó un conjunto de solo diez "Me gusta" para superar las predicciones de los colegas de trabajo. Necesitó setenta "Me gusta" para superar a los amigos, 150 "Me gusta" para superar a los familiares y 300 "Me gusta" para superar a los cónyuges. En otras palabras, si has hecho clic en 300 "Me gusta" en tu cuenta de Facebook, ¡el algoritmo de Facebook puede predecir tus opiniones y deseos mejor que tu esposo o esposa!
• De hecho, en algunos campos el algoritmo de Facebook tuvo un mejor desempeño que la propia persona. Se pidió a los participantes que evaluaran aspectos como su nivel de consumo de sustancias o el tamaño de sus redes sociales. Sus juicios fueron menos precisos que los del algoritmo. La investigación concluye con la siguiente predicción (realizada por los autores humanos del artículo, no por el algoritmo de Facebook): ‘Las personas podrían abandonar sus propios juicios psicológicos y depender de las computadoras al tomar decisiones importantes en la vida, como elegir actividades, trayectorias profesionales o incluso parejas románticas. Es posible que tales decisiones basadas en datos mejoren la vida de las personas.’
• A primera vista, parece que el algoritmo de Waze nos sirve solo como un oráculo. Hacemos una pregunta, el oráculo responde, pero depende de nosotros tomar una decisión. Si el oráculo gana nuestra confianza, sin embargo, el siguiente paso lógico es convertirlo en un agente. Le damos al algoritmo solo un objetivo final, y actúa para realizar ese objetivo sin nuestra supervisión. En el caso de Waze, esto puede suceder cuando conectamos Waze a un automóvil autónomo, y le decimos a Waze ‘toma la ruta más rápida a casa’ o ‘toma la ruta más escénica’ o ‘toma la ruta que resultará en la menor cantidad de contaminación’. Nosotros damos las órdenes, pero dejamos que Waze ejecute nuestros comandos.
• Como cualquier granjero sabe, generalmente es la cabra más brillante del rebaño la que provoca los mayores problemas, razón por la cual la Revolución Agrícola implicó devaluar las habilidades mentales de los animales. La segunda revolución cognitiva que imaginaron los tecno-humanistas podría hacer lo mismo con nosotros.
• Tengo un automóvil privado, pero la mayor parte del tiempo está idle en el estacionamiento. En un día típico, entro a mi auto a las 8:04 y manejo durante media hora hasta la universidad, donde estaciono mi auto por el día. A las 18:11 regreso al auto, manejo media hora de regreso a casa y eso es todo. Así que estoy usando mi auto solo una hora al día. ¿Por qué necesito mantenerlo durante las otras veintitrés horas? Podemos crear un sistema de coche compartido inteligente, manejado por algoritmos de computadora. La computadora sabría que necesito salir de casa a las 8:04 y dirigiría el automóvil autónomo más cercano para recogerme en ese preciso momento. Después de dejarme en el campus, estaría disponible para otros usos en lugar de esperar en el estacionamiento. A las 18:11 en punto, al salir de la puerta de la universidad, otro auto comunitario se detendría justo frente a mí y me llevaría a casa. De este modo, 50 millones de autos autónomos comunitarios podrían reemplazar 1 mil millones de autos privados, y también necesitaríamos muchísimas menos carreteras, puentes, túneles y espacios de estacionamiento. Siempre que, por supuesto, renuncie a mi privacidad y permita que los algoritmos sepan siempre dónde estoy y hacia dónde quiero ir.
• Los algoritmos no conscientes pero altamente inteligentes pueden pronto conocernos mejor de lo que nos conocemos a nosotros mismos.
• ¿Qué sucederá con la sociedad, la política y la vida diaria cuando algoritmos altamente inteligentes pero no conscientes nos conozcan mejor de lo que nos conocemos a nosotros mismos?

Datos y algoritmos

• Sin embargo, en el siglo XXI, los sentimientos ya no son los mejores algoritmos del mundo. Estamos desarrollando algoritmos superiores que utilizan un poder de computación sin precedentes y bases de datos gigantescas. Los algoritmos de Google y Facebook no solo saben exactamente cómo te sientes, también conocen un millón de otras cosas sobre ti que apenas sospechas. En consecuencia, ahora deberías dejar de escuchar tus sentimientos y empezar a escuchar a estos algoritmos externos. ¿De qué sirve tener elecciones democráticas cuando los algoritmos saben cómo va a votar cada persona, y cuando también conocen las razones neurológicas exactas por las cuales una persona vota demócrata mientras que otra vota republicano? Mientras que el humanismo ordenaba: ‘¡Escucha tus sentimientos!’ El dataísmo ahora ordena: ‘¡Escucha a los algoritmos! Ellos saben cómo te sientes.’
• Pero, ¿de dónde provienen estos grandes algoritmos? Este es el misterio del Dataísmo. Así como, según el cristianismo, nosotros los humanos no podemos entender a Dios y Su plan, el Dataísmo dice que el cerebro humano no puede abarcar los nuevos algoritmos maestros. En la actualidad, por supuesto, la mayoría de los algoritmos son escritos por hackers humanos. Sin embargo, los algoritmos realmente importantes – como el algoritmo de búsqueda de Google – son desarrollados por enormes equipos. Cada miembro entiende solo una parte del rompecabezas, y nadie realmente comprende el algoritmo en su conjunto
• Sin embargo, ampliar nuestros horizontes puede resultar contraproducente al hacernos más confusos e inactivos que antes. Con tantos escenarios y posibilidades, ¿a qué debemos prestar atención? El mundo está cambiando más rápido que nunca, y estamos inundados por cantidades imposibles de datos, de ideas, de promesas y de amenazas. Los humanos ceden autoridad al mercado libre, a la sabiduría de las multitudes y a algoritmos externos en parte porque no pueden lidiar con el diluvio de datos. En el pasado, la censura funcionaba bloqueando el flujo de información. En el siglo veintiuno, la censura funciona inundando a las personas con información irrelevante.
• La ciencia está convergiendo en un dogma omnipresente, que dice que los organismos son algoritmos, y que la vida es procesamiento de datos.

Experiencia Humana y Percepción

• El experimento del agua fría es tan simple, sin embargo, sus implicaciones sacuden el núcleo de la visión del mundo liberal. Expone la existencia de al menos dos yoes diferentes dentro de nosotros: el yo experimentador y el yo narrador. El yo experimentador es nuestra conciencia momento a momento. Para el yo experimentador, es obvio que la parte "larga" del experimento del agua fría fue peor. Primero experimentas agua a 14°C durante sesenta segundos, lo cual es tan malo como lo que experimentas en la parte "corta", y luego debes soportar otros treinta segundos de agua a 15°C, que no es tan malo, pero sigue siendo muy desagradable. Para el yo experimentador, es imposible que agregar una experiencia ligeramente desagradable a una experiencia muy desagradable haga que todo el episodio resulte más atractivo.
• El hecho de que su colonoscopía duró tres veces más, y que como consecuencia sufrió mucho más dolor en total, no afectó su memoria en absoluto. El yo narrador no agrega experiencias: las promedia.
• De hecho, desde el punto de vista del yo narrador, el doctor debería agregar unos minutos completamente superfluos de dolor sordo al final de la prueba, porque eso hará que toda la memoria sea mucho menos traumática.
• Un soldado lisiado que perdió sus piernas preferiría decirse a sí mismo: ‘¡Me sacrificé por la gloria de la eterna nación italiana!’ que: ‘Perdí mis piernas porque fui lo suficientemente estúpido como para creer en políticos egoístas.’ Es mucho más fácil vivir con la fantasía, porque la fantasía le da significado al sufrimiento.
• Tratar de explicarle a un Sapiens cómo se siente localizar ecográficamente una mariposa es probablemente tan inútil como explicar a un topo ciego cómo se siente ver un Caravaggio. Es probable que las emociones de los murciélagos también estén profundamente influenciadas por la centralidad de su sentido de la ecolocalización. Para los Sapiens, el amor es rojo, la envidia es verde y la depresión es azul. ¿Quién sabe qué ecolocalizaciones colorean el amor de una murciégala hacia su cría, o los sentimientos de un murciélago macho hacia sus rivales?
• Por ejemplo, los humanos arcaicos probablemente hacían un uso extensivo de su sentido del olfato. Los cazadores-recolectores pueden oler desde lejos la diferencia entre varias especies de animales, varios humanos e incluso varias emociones. El miedo, por ejemplo, huele diferente que el coraje. Cuando un hombre tiene miedo, secreta diferentes químicos en comparación con cuando está lleno de coraje. Si te sentaras entre una banda arcaica debatiendo si comenzar una guerra contra una banda vecina, literalmente podrías oler la opinión pública.
• Lo mismo sucedió con nuestros otros sentidos y con la capacidad subyacente de prestar atención a nuestras sensaciones. Los antiguos recolectores siempre estaban alerta y atentos. Al vagar por el bosque en busca de hongos, olfateaban el viento cuidadosamente y observaban el suelo con atención. Cuando encontraban un hongo, lo comían con la mayor atención, conscientes de cada pequeño matiz de sabor, que podía distinguir un hongo comestible de su primo venenoso. Los miembros de las sociedades acomodadas de hoy no necesitan tal aguda conciencia. Podemos ir al supermercado y comprar cualquiera de mil platos diferentes, todos supervisados por las autoridades de salud. Pero sea lo que elijamos – pizza italiana o fideos tailandeses – es probable que lo comamos apresuradamente frente al televisor, prestando poco atención al sabor (razón por la cual los productores de alimentos están constantemente inventando nuevos sabores emocionantes, que podrían de alguna manera penetrar el telón de la indiferencia)
• De manera similar, al ir de vacaciones podemos elegir entre miles de destinos increíbles. Pero, sea donde sea que vayamos, es probable que estemos jugando con nuestro teléfono inteligente en lugar de realmente ver el lugar. Tenemos más opciones que nunca, pero no importa lo que elijamos, hemos perdido la capacidad de prestar atención realmente a ello.
• Además de oler y prestar atención, también hemos estado perdiendo nuestra capacidad de soñar. Muchas culturas creían que lo que las personas ven y hacen en sus sueños es tan importante como lo que ven y hacen mientras están despiertos. Por lo tanto, las personas desarrollaron activamente su habilidad para soñar, para recordar los sueños e incluso para controlar sus acciones en el mundo de los sueños, lo que se conoce como ‘sueños lúcidos’. Los expertos en sueños lúcidos podían moverse por el mundo de los sueños a voluntad, y afirmaban que incluso podían viajar a planos superiores de existencia o encontrar visitantes de otros mundos. El mundo moderno, en contraste, desestima los sueños como mensajes subconscientes en el mejor de los casos, y como basura mental en el peor. En consecuencia, los sueños juegan un papel mucho más pequeño en nuestras vidas, pocas personas desarrollan activamente sus habilidades para soñar, y muchas personas afirman que no sueñan en absoluto, o que no pueden recordar ninguno de sus sueños.
• La recomendación humanista de escucharnos a nosotros mismos ha arruinado la vida de muchas personas, mientras que la dosis correcta del químico adecuado ha mejorado enormemente el bienestar y las relaciones de millones.
• Los científicos no solo santificaron los sentimientos humanos, sino que también encontraron una excelente razón evolutiva para hacerlo. Después de Darwin, los biólogos comenzaron a explicar que los sentimientos son algoritmos complejos perfeccionados por la evolución para ayudar a los animales a tomar las decisiones correctas. Nuestro amor, nuestro miedo y nuestra pasión no son fenómenos espirituales nebulosos buenos solo para componer poesía. Más bien, encapsulan millones de años de sabiduría práctica. Cuando lees la Biblia, recibes consejos de unos pocos sacerdotes y rabinos que vivieron en la antigua Jerusalén. En contraste, cuando escuchas tus sentimientos, sigues un algoritmo que la evolución ha desarrollado durante millones de años, y que ha resistido las pruebas de calidad más duras de la selección natural. Tus sentimientos son la voz de millones de ancestros, cada uno de los cuales logró sobrevivir y reproducirse en un entorno implacable. Tus sentimientos no son infalibles, por supuesto, pero son mejores que la mayoría de las alternativas. Durante millones y millones de años, los sentimientos fueron los mejores algoritmos del mundo. Por lo tanto, en los días de Confucio, de Mahoma o de Stalin, la gente debió haber escuchado sus sentimientos en lugar de las enseñanzas del confucianismo, el islam o el comunismo.

Sociedad y Cultura

• Los sacerdotes descubrieron este principio hace miles de años. Este subyace a numerosas ceremonias religiosas y mandamientos. Si quieres hacer que la gente crea en entidades imaginarias como dioses y naciones, deberías hacer que sacrifiquen algo valioso. Cuanto más doloroso sea el sacrificio, más convencidos estarán las personas de la existencia del receptor imaginario. Un pobre campesino que sacrifica un toro inigualable a Júpiter se convencerá de que Júpiter realmente existe; de lo contrario, ¿cómo puede excusar su estupidez? El campesino sacrificará otro toro, y otro, y otro, solo para no tener que admitir que todos los toros anteriores fueron desperdiciados. Por exactamente la misma razón, si he sacrificado un niño a la gloria de la nación italiana, o mis piernas a la revolución comunista, es suficiente para convertirme en un ferviente nacionalista italiano o un entusiasta comunista.
• No solo los gobiernos caen en esta trampa. Las corporaciones empresariales a menudo invierten millones en empresas fallidas, mientras que individuos privados se aferran a matrimonios disfuncionales y trabajos sin salida.
• Los humanos son maestros de la disonancia cognitiva, y nos permitimos creer una cosa en el laboratorio y algo completamente diferente en el tribunal o en el parlamento. Así como el cristianismo no desapareció el día en que Darwin publicó El origen de las especies, el liberalismo no desaparecerá solo porque los científicos hayan llegado a la conclusión de que no hay individuos libres.
• La revolución humanista hizo que la cultura occidental moderna perdiera la fe y el interés en los estados mentales superiores, y que santificara las experiencias mundanas del ciudadano promedio
• La cultura occidental moderna es, por lo tanto, única al carecer de una clase especial de personas que buscan experimentar estados mentales extraordinarios. Cree que cualquiera que intente hacerlo es un adicto a las drogas, un paciente mental o un charlatán
• El dataísmo, por lo tanto, amenaza con hacer a Homo sapiens lo que Homo sapiens ha hecho a todos los demás animales.
• No podemos realmente predecir el futuro. Todos los escenarios esbozados en este libro deben entenderse como posibilidades en lugar de profecías. Cuando pensamos en el futuro, nuestros horizontes suelen estar limitados por las ideologías y los sistemas sociales del presente. La democracia nos invita a creer en un futuro democrático; el capitalismo no nos permite vislumbrar una alternativa no capitalista; y el humanismo dificulta que imaginemos un destino post-humano
• Si pensamos en términos de meses, probablemente hemos estado enfocados en problemas inmediatos como la agitación en el Medio Oriente, la crisis de refugiados en Europa y la desaceleración de la economía china. Si pensamos en términos de décadas, entonces el calentamiento global, la creciente desigualdad y la disrupción del mercado laboral son aspectos destacados. Sin embargo, si tomamos una perspectiva realmente grandiosa de la vida, todos los demás problemas y desarrollos quedan ensombrecidos por tres procesos interconectados.

Economía y Capitalismo

• Este dogma fundamental se puede resumir en una idea simple: 'Si tienes un problema, probablemente necesites más cosas, y para tener más cosas, debes producir más de ellas.
• La mayoría de los capitalistas probablemente no les gustaría el título de religión, pero en comparación con otras religiones, el capitalismo al menos puede mantener la cabeza en alto. A diferencia de otras religiones que nos prometen un mundo de ensueño, el capitalismo promete milagros aquí en la tierra – y a veces incluso los proporciona.
• Nunca alcanzaremos un momento en el que el capitalismo diga: ‘Eso es todo. Has crecido lo suficiente. Ahora puedes relajarte.’ Si quieres saber por qué es poco probable que la rueda capitalista se detenga alguna vez, habla durante una hora con un amigo que acaba de ganar $100,000 y se pregunta qué hacer con ello.
• el ajedrez asumió una economía estancada. Comienzas una partida de ajedrez con dieciséis piezas, y nunca terminas una partida con más. En raras ocasiones un peón puede transformarse en una reina, pero no puedes producir nuevos peones, ni tampoco puedes actualizar tus caballos a tanques. Así que los jugadores de ajedrez nunca tienen que pensar en inversión. En contraste, muchos juegos de mesa modernos y juegos de computadora giran en torno a la inversión y el crecimiento.
• La misma lógica está en juego en la esfera económica también. En 1999, el gobierno de Escocia decidió erigir un nuevo edificio del parlamento. Según el plan original, la construcción iba a tomar dos años y costar 40 millones de libras. De hecho, tomó cinco años y costó 400 millones de libras. Cada vez que los contratistas se encontraban con dificultades inesperadas y gastos adicionales, acudían al gobierno escocés y pedían más tiempo y dinero. Cada vez que esto sucedía, el gobierno se decía: 'Bueno, ya hemos invertido 40 millones de libras en esto y estaremos completamente desacreditados si detenemos ahora y terminamos con un esqueleto a medio construir. Autorizaremos otros 40 millones de libras.' Seis meses después, sucedió lo mismo, para entonces la presión para evitar quedarnos con un edificio inacabado era aún mayor; y seis meses después de eso, la historia se repitió, y así sucesivamente hasta que el costo real fue diez veces la estimación original.
• Sin embargo, mezclar tecnología divina con política miope también tiene sus desventajas. La falta de visión no siempre es una bendición, y no todas las visiones son necesariamente malas. En el siglo XX, la visión distópica nazi no se desmoronó espontáneamente. Fue derrotada por las visiones igualmente grandiosas del socialismo y el liberalismo. Es peligroso confiar nuestro futuro a las fuerzas del mercado, porque estas fuerzas hacen lo que es bueno para el mercado en lugar de lo que es bueno para la humanidad o para el mundo. La mano del mercado es ciega, así como invisible, y dejada a sus propios dispositivos puede no hacer nada frente a la amenaza del calentamiento global o el peligroso potencial de la inteligencia artificial.

Yo mismo e Identidad

• Sin embargo, una vez que aceptamos que no hay alma, y que los humanos no tienen una esencia interna llamada 'el yo', ya no tiene sentido preguntar, '¿Cómo el yo elige sus deseos?' Es como preguntar a un soltero, '¿Cómo elige su ropa tu esposa?' En realidad, solo hay un flujo de conciencia, y los deseos surgen y pasan dentro de este flujo, pero no hay un yo permanente que posea los deseos, por lo tanto, no tiene sentido preguntar si elijo mis deseos de manera determinista, aleatoria o libremente.
• El experimento cambió la vida de Sally. En los días siguientes, se dio cuenta de que había pasado por una "experiencia casi espiritual... lo que definió la experiencia no fue sentirme más inteligente o aprender más rápido: lo que hizo que la tierra se cayera de debajo de mis pies fue que, por primera vez en mi vida, todo en mi cabeza finalmente se calló... Mi cerebro sin autocrítica fue una revelación. De repente, hubo este silencio increíble en mi cabeza... Espero que puedas empatizar conmigo cuando te diga que lo que más deseaba durante las semanas siguientes a mi experiencia era volver y ponerme esos electrodos. También comencé a tener muchas preguntas. ¿Quién era yo aparte de los gnomos amargados y enojados que habitan mi mente y me llevan al fracaso porque tengo demasiado miedo de intentar? ¿Y de dónde venían esas voces?"
• Vemos, entonces, que el yo también es una historia imaginaria, al igual que las naciones, los dioses y el dinero. Cada uno de nosotros tiene un sistema sofisticado que desecha la mayor parte de nuestras experiencias, conserva solo algunas muestras elegidas, las mezcla con fragmentos de películas que vimos, novelas que leímos, discursos que escuchamos y de nuestros propios sueños despiertos, y teje de todo ese desorden una historia aparentemente coherente sobre quién soy, de dónde vengo y a dónde voy. Esta historia me dice qué amar, a quién odiar y qué hacer conmigo mismo. Esta historia incluso puede llevarme a sacrificar mi vida, si eso es lo que requiere la trama. Todos tenemos nuestro género.
• Pero el tema más turbio de todos concierne a la identidad del amo de Cortana. Como hemos visto, los humanos no son individuos, y no tienen un único yo unificado. ¿A cuyos intereses, entonces, debería servir Cortana? Supongamos que mi yo narrador toma la resolución de Año Nuevo de iniciar una dieta e ir al gimnasio todos los días. Una semana después, cuando es hora de ir al gimnasio, el yo experimentador le pide a Cortana que encienda la televisión y pida pizza. ¿Qué debería hacer Cortana? ¿Debería obedecer al yo experimentador, o a la resolución tomada hace una semana por el yo narrador?
• Supongamos, solo por el bien del argumento, que en unas pocas décadas los científicos del cerebro nos darán un control fácil y preciso sobre muchas voces internas. Imagina a un joven gay de una familia mormona devota, que después de años de vivir en el armario finalmente ha acumulado suficiente dinero para financiar una operación de transformación. Él va a la clínica armado con $100,000, decidido a salir de allí tan recto como Joseph Smith. De pie frente a la puerta de la clínica, repite mentalmente lo que va a decirle al doctor: ‘Doc, aquí están $100,000. Por favor, corrígeme para que nunca más desee a los hombres.’ Luego toca el timbre, y la puerta es abierta por un George Clooney de la vida real. ‘Doc,’ murmura el joven abrumado, ‘aquí están $100,000. Por favor, corrígeme para que nunca más desee ser recto.’
• ¿Gano el yo auténtico del joven sobre el adoctrinamiento religioso que sufrió? ¿O quizás una tentación momentánea lo llevó a traicionarse a sí mismo? ¿Y tal vez simplemente no existe tal cosa como un yo auténtico que puedas seguir o traicionar?