21 Lecciones para El Siglo XXI

Evolución de la tecnología y la IA

• También resultó que los algoritmos bioquímicos del cerebro humano están lejos de ser perfectos. Se basan en heurísticas, atajos y circuitos obsoletos adaptados a la sabana africana en lugar de a la jungla urbana. No es de extrañar que incluso buenos conductores, banqueros y abogados a veces cometan errores estúpidos. Esto significa que la IA puede superar a los humanos incluso en tareas que supuestamente exigen ‘intuición’.
• La IA no solo está lista para hackear a los humanos y superarlos en lo que hasta ahora eran habilidades exclusivamente humanas. También disfruta de habilidades que son exclusivamente no humanas, lo que hace que la diferencia entre una IA y un trabajador humano sea de tipo más que meramente de grado. Dos habilidades no humanas particularmente importantes que posee la IA son la conectividad y la capacidad de actualización.
• Por lo tanto, en un futuro no muy lejano, un algoritmo de aprendizaje automático podría analizar los datos biométricos que fluyen de los sensores en y dentro de tu cuerpo, determinar tu tipo de personalidad y tus estados de ánimo cambiantes, y calcular el impacto emocional que una canción en particular, e incluso una tonalidad musical particular, es probable que tenga en ti.
• El 7 de diciembre de 2017 se alcanzó un hito crítico, no cuando una computadora derrotó a un humano en ajedrez – eso es noticia vieja – sino cuando el programa AlphaZero de Google derrotó al programa Stockfish 8. Stockfish 8 fue el campeón mundial de ajedrez por computadora en 2016. Tenía acceso a siglos de experiencia humana acumulada en ajedrez, así como a décadas de experiencia computacional. Era capaz de calcular 70 millones de posiciones de ajedrez por segundo. En contraste, AlphaZero realizó solo 80,000 tales cálculos por segundo, y sus creadores humanos nunca le enseñaron ninguna estrategia de ajedrez – ni siquiera las aperturas estándar. Más bien, AlphaZero utilizó los últimos principios de aprendizaje automático para aprender ajedrez por sí mismo al jugar contra sí mismo. Sin embargo, de un centenar de partidas que el novato AlphaZero jugó contra Stockfish, AlphaZero ganó veintiocho y empató setenta y dos. No perdió ni una sola vez. Dado que AlphaZero no aprendió nada de ningún humano, muchos de sus movimientos y estrategias ganadoras parecían poco convencionales a los ojos humanos. Bien podrían considerarse creativos, si no absolutamente geniales.
• ¿Puedes adivinar cuánto tiempo le llevó a AlphaZero aprender ajedrez desde cero, prepararse para la partida contra Stockfish y desarrollar sus instintos geniales? Cuatro horas. Eso no es un error tipográfico. Durante siglos, el ajedrez fue considerado una de las máximas glorias de la inteligencia humana. AlphaZero pasó de la ignorancia total a la maestría creativa en cuatro horas, sin la ayuda de ningún guía humano.
• AlphaZero no es el único software imaginativo que existe. Muchos programas ahora superan de forma rutinaria a los jugadores humanos de ajedrez, no solo en cálculo bruto, sino incluso en ‘creatividad’. En los torneos de ajedrez solo para humanos, los jueces están constantemente atentos a los jugadores que intentan hacer trampa al recibir ayuda secreta de computadoras. Una de las formas de detectar a los tramposos es monitorear el nivel de originalidad que muestran los jugadores. Si juegan un movimiento excepcionalmente creativo, los jueces a menudo sospechan que esto no puede ser un movimiento humano: debe ser un movimiento de computadora. ¡Al menos en ajedrez, la creatividad ya es la marca registrada de las computadoras en lugar de los humanos!
• Simplemente hay varios caminos diferentes que conducen a una alta inteligencia, y solo algunos de estos caminos implican adquirir conciencia. Así como los aviones vuelan más rápido que los pájaros sin desarrollar nunca plumas, las computadoras también pueden llegar a resolver problemas mucho mejor que los mamíferos sin desarrollar nunca sentimientos.

Futuro del Trabajo y Automatización

• La revolución tecnológica podría pronto empujar a miles de millones de humanos fuera del mercado laboral y crear una nueva clase masiva de inútiles, lo que llevaría a convulsiones sociales y políticas que ninguna ideología existente sabe cómo manejar.
• No tenemos idea de cómo será el mercado laboral en 2050. Se acuerda generalmente que el aprendizaje automático y la robótica cambiarán casi cada línea de trabajo, desde la producción de yogur hasta la enseñanza de yoga. Sin embargo, hay opiniones contradictorias sobre la naturaleza del cambio y su inminencia. Algunos creen que en una mera década o dos, miles de millones de personas quedarán económicamente redundantes. Otros mantienen que incluso a largo plazo, la automatización seguirá generando nuevos empleos y mayor prosperidad para todos.
• Los temores de que la automatización genere un desempleo masivo se remontan al siglo XIX, y hasta ahora nunca se han materializado. Desde el comienzo de la Revolución Industrial, por cada empleo perdido por una máquina, se creó al menos un nuevo empleo, y el nivel de vida promedio ha aumentado drásticamente. Sin embargo, hay buenas razones para pensar que esta vez es diferente, y que el aprendizaje automático será un verdadero cambio de juego.
• Los humanos tienen dos tipos de habilidades: físicas y cognitivas. En el pasado, las máquinas competían con los humanos principalmente en habilidades físicas brutas, mientras que los humanos mantenían una inmensa ventaja sobre las máquinas en cognición. Por lo tanto, a medida que los trabajos manuales en agricultura e industria fueron automatizados, surgieron nuevos trabajos en el servicio que requerían el tipo de habilidades cognitivas que solo los humanos poseían: aprender, analizar, comunicarse y, sobre todo, entender las emociones humanas. Sin embargo, la IA ahora está comenzando a superar a los humanos en cada vez más de estas habilidades, incluida la comprensión de las emociones humanas. No conocemos ningún tercer campo de actividad, más allá de lo físico y lo cognitivo, donde los humanos siempre mantendrán una ventaja segura.
• En otras palabras, el cambio a vehículos autónomos probablemente salvará la vida de un millón de personas cada año. Por lo tanto, sería una locura bloquear la automatización en campos como el transporte y la atención médica solo para proteger los empleos humanos. Después de todo, lo que realmente deberíamos proteger son los humanos, no los empleos. Los conductores y médicos redundantes simplemente tendrán que encontrar algo más que hacer.
• Al menos a corto plazo, es poco probable que la inteligencia artificial y la robótica eliminen por completo industrias enteras. Los trabajos que requieren especialización en un rango estrecho de actividades rutinarias serán automatizados. Pero será mucho más difícil reemplazar a los humanos con máquinas en trabajos menos rutinarios que exigen el uso simultáneo de una amplia gama de habilidades y que implican lidiar con escenarios imprevistos. Tomemos la atención médica, por ejemplo. Muchos médicos se centran casi exclusivamente en procesar información: absorben datos médicos, los analizan y producen un diagnóstico. Las enfermeras, en contraste, también necesitan buenas habilidades motoras y emocionales para administrar una inyección dolorosa, cambiar un vendaje o contener a un paciente violento. Por lo tanto, es probable que tengamos un médico familiar de IA en nuestro teléfono inteligente décadas antes de que tengamos un robot enfermero confiable.
• Junto con el cuidado, la creatividad también plantea obstáculos particularmente difíciles para la automatización. No necesitamos humanos que nos vendan música más – podemos descargarla directamente de la tienda de iTunes – pero los compositores, músicos, cantantes y DJs siguen siendo carne y hueso. Dependemos de su creatividad no solo para producir música completamente nueva, sino también para elegir entre una asombrosa gama de posibilidades disponibles.
• Sin embargo, a la larga, ningún trabajo permanecerá absolutamente a salvo de la automatización.
• La pérdida de muchos trabajos tradicionales en todo, desde el arte hasta la atención médica, será parcialmente compensada por la creación de nuevos empleos humanos. Los médicos generales que se centran en diagnosticar enfermedades conocidas y administrar tratamientos familiares probablemente serán reemplazados por doctores de inteligencia artificial. Pero precisamente por eso, habrá mucho más dinero para pagar a médicos humanos y asistentes de laboratorio para que realicen investigaciones innovadoras y desarrollen nuevos medicamentos o procedimientos quirúrgicos.
• El problema con todos esos nuevos empleos, sin embargo, es que probablemente exigirán altos niveles de experiencia y, por lo tanto, no resolverán los problemas de los trabajadores no calificados desempleados.
• Durante olas previas de automatización, las personas usualmente podían cambiar de un trabajo rutinario de baja calificación a otro. En 1920, un trabajador agrícola despedido debido a la mecanización de la agricultura podía encontrar un nuevo empleo en una fábrica que producía tractores. En 1980, un trabajador de fábrica desempleado podía comenzar a trabajar como cajero en un supermercado. Tales cambios ocupacionales eran viables, porque la transición de la granja a la fábrica y de la fábrica al supermercado requería solo una limitada reentrenamiento. Pero en 2050, un cajero o un trabajador textil que pierda su trabajo debido a un robot difícilmente podrá comenzar a trabajar como investigador de cáncer, como operador de drones o como parte de un equipo de banca humano-IA. No tendrán las habilidades necesarias.
• En consecuencia, a pesar de la aparición de muchos nuevos trabajos humanos, podríamos, sin embargo, ser testigos del surgimiento de una nueva clase 'inútil'. Podríamos, de hecho, obtener lo peor de ambos mundos, sufriendo simultáneamente de alta desempleo y una escasez de mano de obra calificada.
• Además, ningún trabajo humano que quede estará a salvo de la amenaza de la automatización futura, porque el aprendizaje automático y la robótica seguirán mejorando. Un cajero de Walmart desempleado de cuarenta años que, por méritos sobrehumanos, logra reinventarse como piloto de drones podría tener que reinventarse nuevamente diez años después, porque para entonces el vuelo de drones también podría haberse automatizado. Esta volatilidad también dificultará la organización de sindicatos o la garantía de derechos laborales. Hoy en día, muchos de los nuevos empleos en economías avanzadas implican trabajo temporal no protegido, trabajo independiente y trabajos ocasionales. ¿Cómo se sindicaliza una profesión que brota y desaparece en una década?
• Lo que está sucediendo hoy con los equipos de ajedrez humano–IA podría suceder en el futuro con los equipos humano–IA en la policía, la medicina y la banca también. En consecuencia, crear nuevos empleos y capacitar a las personas para ocuparlos no será un esfuerzo aislado. La revolución de la IA no será un solo evento crucial después del cual el mercado laboral simplemente se asentará en un nuevo equilibrio. Más bien, será una cascada de interrupciones cada vez mayores. Ya hoy pocos empleados esperan trabajar en el mismo empleo durante toda su vida. Para 2050, no solo la idea de "un empleo para toda la vida", sino incluso la idea de "una profesión para toda la vida" podría parecer antediluviana.
• Incluso si pudiéramos inventar constantemente nuevos empleos y volver a capacitar a la fuerza laboral, podríamos preguntarnos si el humano promedio tendrá la resistencia emocional necesaria para una vida de tales cambios interminables. El cambio siempre es estresante, y el mundo agitado del comienzo del siglo veintiuno ha producido una epidemia global de estrés. A medida que la volatilidad del mercado laboral y de las carreras individuales aumenta, ¿podrán las personas hacer frente? Probablemente necesitaríamos técnicas de reducción de estrés mucho más efectivas - que van desde medicamentos hasta neuroretroalimentación y meditación - para evitar que la mente sapiens se quiebre. Para 2050, podría surgir una clase 'inútil’ no solo por la falta absoluta de empleos o la falta de educación relevante, sino también por una resistencia mental insuficiente.
• Sin embargo, no podemos permitirnos ser complacientes. Es peligroso asumir simplemente que aparecerán suficientes nuevos empleos para compensar cualquier pérdida. El hecho de que esto haya sucedido durante olas anteriores de automatización no garantiza en absoluto que vuelva a ocurrir bajo las condiciones muy diferentes del siglo XXI. Las posibles disrupciones sociales y políticas son tan alarmantes que, incluso si la probabilidad de desempleo masivo sistémico es baja, deberíamos tomarlo muy en serio.
• Las soluciones potenciales se dividen en tres categorías principales: qué hacer para evitar la pérdida de empleos; qué hacer para crear suficientes empleos nuevos; y qué hacer si, a pesar de nuestros mejores esfuerzos, las pérdidas de empleo superan significativamente la creación de empleos. Evitar por completo la pérdida de empleos es una estrategia poco atractiva y probablemente insostenible, porque significa renunciar al inmenso potencial positivo de la IA y la robótica.
• Disminuir el ritmo del cambio puede darnos tiempo para crear suficientes nuevos empleos que reemplacen la mayor parte de las pérdidas. Sin embargo, como se mencionó anteriormente, el emprendimiento económico tendrá que ir acompañado de una revolución en la educación y la psicología.
• Teóricamente, puedes tener una economía en la que una corporación minera produce y vende hierro a una corporación de robótica, la corporación de robótica produce y vende robots a la corporación minera, que extrae más hierro, el cual se utiliza para producir más robots, y así sucesivamente. Estas corporaciones pueden crecer y expandirse hasta los rincones más lejanos de la galaxia, y todo lo que necesitan son robots y computadoras; no necesitan humanos ni siquiera para comprar sus productos. De hecho, ya hoy en día las computadoras y los algoritmos están comenzando a funcionar como clientes además de productores.
• Nadie sueña con ser cajero. Lo que deberíamos enfocarnos es en satisfacer las necesidades básicas de las personas y proteger su estatus social y su autoestima.
• La globalización ha hecho que las personas en un país sean completamente dependientes de los mercados en otros países, pero la automatización podría deshacer grandes partes de esta red de comercio global con consecuencias desastrosas para los eslabones más débiles.
• A lo largo de este libro, a menudo uso la primera persona del plural para hablar sobre el futuro de la humanidad. Hablo sobre lo que ‘nosotros’ necesitamos hacer con respecto a ‘nuestros’ problemas. Pero tal vez no hay ‘nosotros’. Tal vez uno de ‘nuestros’ mayores problemas es que diferentes grupos humanos tienen futuros completamente diferentes. Tal vez en algunas partes del mundo debas enseñar a tus hijos a escribir código informático, mientras que en otras sería mejor enseñarles a dibujar rápido y disparar recto.

Autoridad de Datos y Algoritmos

• Los algoritmos de Big Data podrían crear dictaduras digitales en las que todo el poder está concentrado en manos de una pequeña élite, mientras que la mayoría de las personas sufren no por explotación, sino por algo mucho peor: la irrelevancia.
• Ya hoy, las computadoras han hecho el sistema financiero tan complicado que pocos humanos pueden entenderlo. A medida que la inteligencia artificial mejora, podríamos llegar pronto a un punto en el que ningún humano pueda comprender las finanzas.
• De hecho, el algoritmo puede aprender a reconocer tus deseos incluso sin que seas explícitamente consciente de ellos.
• Al utilizar bases de datos biométricas masivas recopiladas de millones de personas, el algoritmo podría saber qué botones bioquímicos presionar para producir un éxito global que haría que todos se movieran locamente en las pistas de baile.
• De manera similar en el negocio de la publicidad, el cliente más importante de todos es un algoritmo: el algoritmo de búsqueda de Google. Cuando las personas diseñan páginas web, a menudo se ajustan al gusto del algoritmo de búsqueda de Google en lugar de al gusto de cualquier ser humano.
• Sé esto por experiencia personal. Cuando publico un libro, las editoriales me piden que escriba una breve descripción que utilizan para publicidad en línea. Pero tienen un experto especial, que adapta lo que escribo al gusto del algoritmo de Google. El experto revisa mi texto, y dice ‘No uses esta palabra – usa esa palabra en su lugar. Así atraeremos más atención del algoritmo de Google.’ Sabemos que si logramos captar la atención del algoritmo, podemos dar por sentado a los humanos.
• No obstante el peligro del desempleo masivo, lo que deberíamos preocuparnos aún más es el cambio de autoridad de los humanos a los algoritmos, que podría destruir cualquier fe restante en la narrativa liberal y abrir el camino al surgimiento de dictaduras digitales.
• La creencia liberal en los sentimientos y elecciones libres de los individuos no es ni natural ni muy antigua. Durante miles de años, las personas creyeron que la autoridad provenía de leyes divinas en lugar de del corazón humano, y que, por lo tanto, debíamos santificar la palabra de Dios en lugar de la libertad humana. Solo en los últimos siglos la fuente de autoridad se trasladó de deidades celestiales a humanos de carne y hueso. Pronto la autoridad podría cambiar nuevamente – de humanos a algoritmos. Así como la autoridad divina fue legitimada por mitologías religiosas, y la autoridad humana fue justificada por la narrativa liberal, la próxima revolución tecnológica podría establecer la autoridad de los algoritmos de Big Data, mientras socava la idea misma de libertad individual.
• En consecuencia, el liberalismo tuvo razón al aconsejar a las personas que siguieran su corazón en lugar de los dictados de algún sacerdote o burócrata de partido. Sin embargo, pronto los algoritmos de computadora podrían ofrecerte un mejor consejo que los sentimientos humanos.
• Las personas disfrutarán de la mejor atención médica de la historia, pero precisamente por esta razón probablemente estarán enfermas todo el tiempo. Siempre hay algo mal en alguna parte del cuerpo. Siempre hay algo que se puede mejorar. En el pasado, te sentías perfectamente saludable siempre y cuando no sintieras dolor o no sufrieras de una discapacidad aparente como cojear. Pero para 2050, gracias a sensores biométricos y algoritmos de Big Data, las enfermedades podrán ser diagnosticadas y tratadas mucho antes de que conduzcan al dolor o a la discapacidad. Como resultado, siempre te encontrarás sufriendo de alguna 'condición médica' y siguiendo esta o aquella recomendación algorítmica. Si te niegas, tal vez tu seguro médico se vuelva inválido, o tu jefe te despida – ¿por qué debería pagar el precio de tu obstinación?
• ¿Quién tendrá el tiempo y la energía para lidiar con todas estas enfermedades? Lo más probable es que simplemente podamos instruir a nuestro algoritmo de salud para que se ocupe de la mayoría de estos problemas como mejor le parezca. En el mejor de los casos, enviará actualizaciones periódicas a nuestros smartphones, informándonos que "se detectaron y destruyeron diecisiete células cancerosas". Los hipocondríacos podrían leer religiosamente estas actualizaciones, pero la mayoría de nosotros las ignorará justo como ignoramos esos molestos avisos de antivirus en nuestras computadoras.
• Pero Amazon no tendrá que ser perfecto. Solo necesitará ser mejor en promedio que nosotros los humanos. Y eso no es tan difícil, porque la mayoría de las personas no se conocen muy bien, y la mayoría de las personas a menudo cometen errores terribles en las decisiones más importantes de sus vidas. Aún más que los algoritmos, los humanos sufren de datos insuficientes, de programación defectuosa (genética y cultural), de definiciones confusas y del caos de la vida.
• Solo piensa en cómo en apenas dos décadas, miles de millones de personas han llegado a confiar el algoritmo de búsqueda de Google con una de las tareas más importantes de todas: buscar información relevante y confiable. Ya no buscamos información. En cambio, googleamos. Y a medida que dependemos cada vez más de Google para obtener respuestas, nuestra capacidad de buscar información por nosotros mismos disminuye. Ya hoy, la 'verdad' está definida por los resultados principales de la búsqueda en Google.
• A medida que la autoridad se desplaza de los humanos a los algoritmos, es posible que ya no veamos el mundo como el patio de recreo de individuos autónomos luchando por tomar las decisiones correctas. En cambio, podríamos percibir todo el universo como un flujo de datos, ver a los organismos como poco más que algoritmos bioquímicos, y creer que la vocación cósmica de la humanidad es crear un sistema de procesamiento de datos que lo abarque todo – y luego fusionarnos en él.
• La carrera por obtener los datos ya ha comenzado, encabezada por gigantes de datos como Google, Facebook, Baidu y Tencent. Hasta ahora, muchos de estos gigantes parecen haber adoptado el modelo de negocio de los 'mercaderes de atención'. Capturan nuestra atención ofreciéndonos información, servicios y entretenimiento gratuitos, y luego revenden nuestra atención a los anunciantes. Sin embargo, los gigantes de datos probablemente tienen objetivos mucho más ambiciosos que cualquier comerciante de atención anterior. Su verdadero negocio no es vender anuncios en absoluto. Más bien, al capturar nuestra atención, logran acumular inmensas cantidades de datos sobre nosotros, lo cual vale más que cualquier ingreso publicitario. No somos sus clientes, somos su producto. A mediano plazo, esta acumulación de datos abre un camino hacia un modelo de negocio radicalmente diferente, cuyo primera víctima será la industria publicitaria misma. El nuevo modelo se basa en transferir la autoridad de los humanos a los algoritmos, incluida la autoridad para elegir y comprar cosas.

Desigualdad Social y Económica

• En 2018, la persona común se siente cada vez más irrelevante.
• Es mucho más difícil luchar contra la irrelevancia que contra la explotación.
• Gracias a los algoritmos de aprendizaje y los sensores biométricos, una pobre aldeana en un país subdesarrollado podría llegar a disfrutar de una atención médica mucho mejor a través de su teléfono inteligente que la que obtiene hoy en día la persona más rica del mundo en el hospital urbano más avanzado.
• En lugar de que el crecimiento económico mejore las condiciones en todo el mundo, podríamos ver una inmensa nueva riqueza creada en centros de alta tecnología como Silicon Valley, mientras muchos países en desarrollo colapsen.
• En consecuencia, la brecha entre los ricos (los directivos de Tencent y los accionistas de Google) y los pobres (aquellos dependientes de un ingreso básico universal) podría volverse no solo más grande, sino en realidad insalvable.
• Por lo tanto, incluso si algún esquema universal de apoyo proporciona a los pobres en 2050 una atención médica y educación mucho mejores que hoy, aún podrían estar extremadamente enojados por la desigualdad global y la falta de movilidad social. La gente sentirá que el sistema está en contra de ellos, que el gobierno solo sirve a los súper ricos, y que el futuro será aún peor para ellos y sus hijos.
• Porque sin una red de seguridad social y un mínimo de igualdad económica, la libertad no tiene sentido. Pero así como los algoritmos de Big Data pueden extinguir la libertad, también pueden crear simultáneamente las sociedades más desiguales que jamás han existido. Toda la riqueza y el poder pueden estar concentrados en manos de una pequeña élite, mientras que la mayoría de las personas sufrirán no por explotación, sino por algo mucho peor: la irrelevancia.
• En las últimas décadas, se le ha dicho a la gente de todo el mundo que la humanidad está en el camino hacia la igualdad, y que la globalización y las nuevas tecnologías nos ayudarán a llegar allí más pronto. En realidad, el siglo veintiuno podría crear las sociedades más desiguales en la historia. Aunque la globalización y el Internet cierran la brecha entre los países, amenazan con ampliar el abismo entre las clases, y justo cuando la humanidad parece estar a punto de lograr una unificación global, la especie misma podría dividirse en diferentes castas biológicas.
• Hoy en día, el 1 por ciento más rico posee la mitad de la riqueza del mundo. Aún más alarmante, las cien personas más ricas juntas poseen más que los 4 mil millones más pobres.
• Para 2100, el 1 por ciento más rico podría poseer no solo la mayor parte de la riqueza del mundo, sino también la mayor parte de la belleza, creatividad y salud del mundo. Por lo tanto, los dos procesos juntos - bioingeniería junto con el auge de la IA - podrían resultar en la separación de la humanidad en una pequeña clase de superhumanos y una masiva clase baja de Homo sapiens inútiles.Conciencia Humana y Emociones
• Los humanos piensan en historias en lugar de en hechos, números o ecuaciones, y cuanto más simple sea la historia, mejor.
• Tener una historia es la situación más reconfortante de todas. Todo está perfectamente claro. Quedar de repente sin ninguna historia es aterrador.
• En el pasado, nosotros los humanos hemos aprendido a controlar el mundo exterior, pero teníamos muy poco control sobre el mundo interior. Sabíamos cómo construir una represa y detener el flujo de un río, pero no sabíamos cómo detener el envejecimiento del cuerpo
• Si los mosquitos zumbaran en nuestros oídos y perturbaran nuestro sueño, sabíamos cómo matar a los mosquitos; pero si un pensamiento zumbaba en nuestra mente y nos mantenía despiertos por la noche, la mayoría de nosotros no sabía cómo matar el pensamiento.
• Es más fácil manipular un río construyendo una represa que predecir todas las complejas consecuencias que esto tendrá para el sistema ecológico más amplio. De manera similar, será más fácil redirigir el flujo de nuestras mentes que adivinar qué hará esto a nuestra psicología personal o a nuestros sistemas sociales.
• El primer paso es moderar las profecías de fatalidad y pasar del modo de pánico a la perplejidad. El pánico es una forma de arrogancia. Proviene de la sensación complaciente de que sé exactamente hacia dónde se dirige el mundo: hacia abajo.
• Resultó que nuestras elecciones de todo, desde la comida hasta las parejas, no se deben a un libre albedrío misterioso, sino a miles de millones de neuronas calculando probabilidades en una fracción de segundo. La tan elogiada "intuición humana" es en realidad "reconocimiento de patrones".
• Sin embargo, incluso si llega suficiente ayuda del gobierno, está lejos de ser claro si miles de millones de personas podrían reinventarse repetidamente sin perder su equilibrio mental.
• Homo sapiens simplemente no está hecho para la satisfacción. La felicidad humana depende menos de las condiciones objetivas y más de nuestras propias expectativas. Sin embargo, las expectativas tienden a adaptarse a las condiciones, incluidas las condiciones de otras personas. Cuando las cosas mejoran, las expectativas se disparan, y, en consecuencia, incluso las mejoras dramáticas en las condiciones podrían dejarnos tan insatisfechos como antes.
• Habitualmente no nos damos cuenta de que los sentimientos son de hecho cálculos, porque el rápido proceso de cálculo ocurre muy por debajo de nuestro umbral de conciencia.
• Hasta ahora, estos argumentos han tenido un impacto vergonzosamente escaso en el comportamiento real, porque en tiempos de crisis los humanos a menudo se olvidan de sus perspectivas filosóficas y siguen sus emociones e instintos en su lugar.
• Por supuesto, no es absolutamente imposible que la IA desarrolle sentimientos propios. Aún no sabemos lo suficiente sobre la conciencia para estar seguros. En general, hay tres posibilidades que necesitamos considerar: La conciencia está de alguna manera vinculada a la bioquímica orgánica de tal forma que nunca será posible crear conciencia en sistemas no orgánicos. La conciencia no está vinculada a la bioquímica orgánica, pero sí está vinculada a la inteligencia de tal manera que las computadoras podrían desarrollar conciencia, y las computadoras tendrán que desarrollar conciencia si van a superar un cierto umbral de inteligencia. No hay vínculos esenciales entre la conciencia y la bioquímica orgánica o la alta inteligencia. Por lo tanto, las computadoras podrían desarrollar conciencia, pero no necesariamente. Podrían volverse súper inteligentes mientras aún tengan cero conciencia.
• En nuestro estado actual de conocimiento, no podemos descartar ninguna de estas opciones. Sin embargo, precisamente porque sabemos tan poco sobre la conciencia, parece poco probable que podamos programar computadoras conscientes en el corto plazo. Por lo tanto, a pesar del inmenso poder de la inteligencia artificial, en el futuro previsible su uso seguirá dependiendo en cierta medida de la conciencia humana. El peligro es que si invertimos demasiado en desarrollar la IA y muy poco en desarrollar la conciencia humana, la inteligencia artificial muy sofisticada de las computadoras podría servir únicamente para potenciar la estupidez natural de los humanos.
• Para evitar tales resultados, por cada dólar y cada minuto que invertimos en mejorar la inteligencia artificial, sería prudente invertir un dólar y un minuto en avanzar la consciencia humana. Desafortunadamente, en la actualidad no estamos haciendo mucho para investigar y desarrollar la consciencia humana. Estamos investigando y desarrollando las habilidades humanas principalmente según las necesidades inmediatas del sistema económico y político, en lugar de según nuestras propias necesidades a largo plazo como seres conscientes. Mi jefe quiere que responda los correos electrónicos lo más rápido posible, pero tiene poco interés en mi capacidad para saborear y apreciar la comida que estoy comiendo. En consecuencia, reviso mis correos electrónicos incluso durante las comidas, mientras pierdo la capacidad de prestar atención a mis propias sensaciones. El sistema económico me presiona a expandir y diversificar mi cartera de inversiones, pero me da cero incentivos para expandir y diversificar mi compasión. Así que me esfuerzo por entender los misterios de la bolsa de valores, mientras hago mucho menos esfuerzo por comprender las profundas causas del sufrimiento.
• De hecho, no tenemos idea de cuál es el potencial humano completo, porque sabemos muy poco sobre la mente humana. Y, sin embargo, apenas invertimos mucho en explorar la mente humana, y en su lugar nos enfocamos en aumentar la velocidad de nuestras conexiones a Internet y la eficiencia de nuestros algoritmos de Big Data. Si no tenemos cuidado, terminaremos con humanos degradados usando computadoras mejoradas para causar estragos en sí mismos y en el mundo.

Sistemas Políticos y Libérales

• La historia liberal celebra el valor y el poder de la libertad. Dice que durante miles de años la humanidad vivió bajo regímenes opresivos que otorgaban a las personas pocos derechos políticos, oportunidades económicas o libertades personales, y que restringían fuertemente los movimientos de individuos, ideas y bienes. Pero la gente luchó por su libertad, y paso a paso, la libertad fue ganando terreno
• Sin embargo, desde la crisis financiera global de 2008, las personas de todo el mundo se han vuelto cada vez más desilusionadas con la narrativa liberal.
• Tanto los políticos como los votantes apenas pueden comprender las nuevas tecnologías, y mucho menos regular su potencial explosivo.
• ¿Alguna vez votaste sobre el Internet? El sistema democrático todavía está luchando por entender qué lo golpeó, y apenas está equipado para enfrentar los próximos impactos, como el auge de la IA y la revolución del blockchain.
• Las revoluciones en biotecnología e infotenología son realizadas por ingenieros, emprendedores y científicos que difícilmente son conscientes de las implicaciones políticas de sus decisiones, y que ciertamente no representan a nadie
• Cuando vives bajo una oligarquía así, siempre hay alguna crisis u otra que toma prioridad sobre cosas aburridas como la atención médica y la contaminación. Si la nación enfrenta una invasión externa o una subversión diabólica, ¿quién tiene tiempo para preocuparse por hospitales abarrotados y ríos contaminados? Al fabricar un flujo incesante de crisis, una oligarquía corrupta puede prolongar su dominio indefinidamente.
• La mayoría de los humanos nunca disfrutaron de una paz o prosperidad mayores de las que experimentaron bajo el amparo del orden liberal de principios del siglo XXI. Por primera vez en la historia, las enfermedades infecciosas matan a menos personas que la vejez, la hambruna mata a menos personas que la obesidad y la violencia mata a menos personas que los accidentes.
• La historia liberal valora la libertad humana como su valor número uno. Argumenta que toda autoridad proviene en última instancia de la libre voluntad de los individuos, tal como se expresa en sus sentimientos, deseos y elecciones. En política, el liberalismo cree que el votante es el que mejor sabe. Por lo tanto, defiende las elecciones democráticas. En economía, el liberalismo sostiene que el cliente siempre tiene la razón. Por lo tanto, aplaude los principios del libre mercado. En asuntos personales, el liberalismo alienta a las personas a escucharse a sí mismas, ser fieles a sí mismas y seguir su corazón, siempre y cuando no infrinjan las libertades de los demás.
• Si la democracia fuera una cuestión de toma de decisiones racional, no habría absolutamente ninguna razón para otorgar a todas las personas derechos de voto iguales, o quizás ni siquiera derechos de voto.
• Winston Churchill dijo famosa y acertadamente que la democracia es el peor sistema político del mundo, excepto por todos los demás.

Filosofía y Ética

• Dado que las corporaciones y los emprendedores que lideran la revolución tecnológica tienden naturalmente a ensalzar sus creaciones, corresponde a sociólogos, filósofos e historiadores como yo dar la voz de alarma y explicar todas las formas en que las cosas pueden salir terriblemente mal.
• Dado todo lo que sabemos y no sabemos sobre la ciencia, sobre Dios, sobre la política y sobre la religión, ¿qué podemos decir sobre el significado de la vida hoy en día?
• Esto puede sonar demasiado ambicioso, pero Homo sapiens no puede esperar. La filosofía, la religión y la ciencia se están quedando sin tiempo. La gente ha debatido el significado de la vida durante miles de años. No podemos continuar este debate indefinidamente. La inminente crisis ecológica, la creciente amenaza de las armas de destrucción masiva y el auge de nuevas tecnologías disruptivas no lo permitirán. Quizás lo más importante es que la inteligencia artificial y la biotecnología le están dando a la humanidad el poder de remodelar y reingeniería la vida. Muy pronto alguien tendrá que decidir cómo usar este poder, basado en alguna historia implícita o explícita sobre el significado de la vida.
• Los filósofos son personas muy pacientes, pero los ingenieros son mucho menos pacientes, y los inversores son los menos pacientes de todos. Si no sabes qué hacer con el poder de generar vida, las fuerzas del mercado no esperarán mil años para que encuentres una respuesta.
• La mano invisible del mercado te impondrá su propia respuesta ciega. A menos que estés contento de confiar el futuro de la vida a la misericordia de los informes de ingresos trimestrales, necesitas tener una idea clara de qué se trata la vida.
• Las revoluciones en biotecnología e infotecnología nos darán control del mundo dentro de nosotros, y nos permitirán ingenear y manufacturar vida. Aprenderemos a diseñar cerebros, extender vidas y eliminar pensamientos a nuestra discreción. Nadie sabe cuáles serán las consecuencias.
• Los humanos siempre fueron mucho mejores en inventar herramientas que en usarlas sabiamente.
• La tecnología nunca es determinista, y el hecho de que algo se pueda hacer no significa que deba hacerse.
• Una vez que la IA tome mejores decisiones que nosotros sobre carreras y quizás incluso sobre relaciones, nuestro concepto de humanidad y de la vida tendrá que cambiar.
• Las emociones humanas superan a las teorías filosóficas en innumerables otras situaciones. Esto convierte la historia ética y filosófica del mundo en un relato bastante deprimente de ideales maravillosos y comportamientos menos que ideales. ¿Cuántos cristianos realmente ponen la otra mejilla, cuántos budistas realmente se elevan por encima de obsesiones egoístas y cuántos judíos realmente aman a sus prójimos como a sí mismos? Así es como la selección natural ha moldeado a Homo sapiens. Como todos los mamíferos, Homo sapiens utiliza las emociones para tomar decisiones de vida o muerte de manera rápida. Hemos heredado nuestra ira, nuestro miedo y nuestra lujuria de millones de ancestros, todos los cuales pasaron las pruebas de control de calidad más rigurosas de la selección natural.
• Los algoritmos informáticos, sin embargo, no han sido moldeados por la selección natural, y no tienen emociones ni instintos básicos. Por lo tanto, en momentos de crisis podrían seguir pautas éticas mucho mejor que los humanos, siempre que encontremos una manera de codificar la ética en números y estadísticas precisos.
• Lo que significa que, al diseñar su auto autónomo, Toyota o Tesla estarán transformando un problema teórico en la filosofía de la ética en un problema práctico de ingeniería. Es cierto que los algoritmos filosóficos nunca serán perfectos. Seguirán ocurriendo errores, resultando en lesiones, muertes y demandas extremadamente complicadas. (Por primera vez en la historia, podrías demandar a un filósofo por los resultados desafortunados de sus teorías, porque por primera vez en la historia podrías probar un vínculo causal directo entre las ideas filosóficas y eventos de la vida real.)
• Sin embargo, podría haber algunas nuevas oportunidades para los filósofos, porque sus habilidades – hasta ahora carentes de mucho valor en el mercado – de repente estarán en alta demanda. Así que si quieres estudiar algo que garantice un buen trabajo en el futuro, tal vez la filosofía no sea una mala apuesta.
• Bueno, tal vez Tesla simplemente lo deje al mercado. Tesla producirá dos modelos del auto autónomo: el Tesla Altruista y el Tesla Egoísta. En una emergencia, el Altruista sacrifica a su propietario por el bien mayor, mientras que el Egoísta hace todo lo posible por salvar a su propietario, incluso si eso significa matar a los dos niños. Los clientes podrán comprar el auto que mejor se ajuste a su visión filosófica favorita. Si más personas compran el Tesla Egoísta, no podrás culpar a Tesla por eso. Después de todo, el cliente siempre tiene la razón. Esto no es una broma. En un estudio pionero de 2015, se presentó a las personas un escenario hipotético de un auto autónomo a punto de atropellar a varios peatones. La mayoría dijo que en tal caso el auto debería salvar a los peatones incluso a costa de matar a su propietario. Cuando luego se les preguntó si personalmente comprarían un auto programado para sacrificar a su propietario por el bien mayor, la mayoría dijo que no. Para sí mismos, preferirían el Tesla Egoísta. Imagina la situación: has comprado un auto nuevo, pero antes de poder empezar a usarlo, debes abrir el menú de configuraciones y marcar una de varias casillas. En caso de un accidente, ¿quieres que el auto sacrifique tu vida – o que mate a la familia en el otro vehículo? ¿Es esta una elección que realmente quieres hacer? Solo piensa en los argumentos que vas a tener con tu esposo sobre qué casilla marcar.
• La IA a menudo asusta a las personas porque no confían en que la IA permanezca obediente. Hemos visto demasiadas películas de ciencia ficción sobre robots rebelándose contra sus amos humanos, desatados en las calles y masacrando a todos. Sin embargo, el verdadero problema con los robots es exactamente lo opuesto. Deberíamos temerles porque probablemente siempre obedecerán a sus amos y nunca se rebelarán.
• La ciencia ficción tiende a confundir la inteligencia con la conciencia, y asumir que para igualar o superar la inteligencia humana, las computadoras tendrán que desarrollar conciencia. La trama básica de casi todas las películas y novelas sobre IA gira en torno al momento mágico en que una computadora o un robot adquiere conciencia. Una vez que eso sucede, o el héroe humano se enamora del robot, o el robot intenta matar a todos los humanos, o ambas cosas ocurren simultáneamente. Pero en realidad, no hay razón para asumir que la inteligencia artificial ganará conciencia, porque la inteligencia y la conciencia son cosas muy diferentes. La inteligencia es la capacidad de resolver problemas. La conciencia es la capacidad de sentir cosas como el dolor, la alegría, el amor y la ira. Tendemos a confundir las dos porque en los humanos y otros mamíferos la inteligencia va de la mano con la conciencia. Los mamíferos resuelven la mayoría de los problemas sintiendo cosas. Sin embargo, las computadoras resuelven problemas de una manera muy diferente.

Cambio Global y Disrupción

• El hilo dorado que recorre su emocionante nuevo libro es el desafío de mantener nuestro enfoque colectivo e individual frente a un cambio constante y desorientador. ¿Somos todavía capaces de comprender el mundo que hemos creado?
• En un mundo inundado de información irrelevante, la claridad es poder. En teoría, cualquiera puede unirse al debate sobre el futuro de la humanidad, pero es tan difícil mantener una visión clara.
• El cambio climático puede estar muy por encima de las preocupaciones de las personas en medio de una emergencia de vida o muerte, pero eventualmente podría hacer que las barriadas de Mumbai sean inhóspitas, enviar enormes nuevas olas de refugiados a través del Mediterráneo y llevar a una crisis mundial en la atención médica.
• Las personas aprendieron a pensar por sí mismas y seguir sus corazones, en lugar de obedecer ciegamente a sacerdotes fanáticos y tradiciones rígidas. Caminos abiertos, puentes robustos y aeropuertos bulliciosos reemplazaron muros, fosos y cercas de alambre de púas.
• En 1938 se ofrecieron a los humanos tres historias globales para elegir, en 1968 solo dos, en 1998 parecía prevalecer una única historia; en 2018 hemos llegado a cero.
• La sensación de desorientación y de fatalidad inminente se ve exacerbada por el ritmo acelerado de la disrupción tecnológica.
• Muchas palabras misteriosas se mencionan con entusiasmo en las charlas TED, en los grupos de reflexión del gobierno y en las conferencias de alta tecnología: globalización, blockchain, ingeniería genética, inteligencia artificial, aprendizaje automático; y la gente común puede sospechar que ninguna de estas palabras les concierne. La historia liberal era la historia de las personas comunes. ¿Cómo puede seguir siendo relevante en un mundo de cyborgs y algoritmos interconectados?
• El desafío que enfrenta la humanidad en el siglo XXI debido a la infotecnia y la biotecnología es, sin duda, mucho mayor que el desafío que plantearon en la era anterior las máquinas de vapor, los ferrocarriles y la electricidad. Y dado el inmenso poder destructivo de nuestra civilización, simplemente no podemos permitirnos más modelos fallidos, guerras mundiales y revoluciones sangrientas. Esta vez, los modelos fallidos podrían resultar en guerras nucleares, monstruosidades genéticamente modificadas y un colapso total de la biosfera. En consecuencia, tenemos que hacerlo mejor de lo que hicimos al enfrentar la Revolución Industrial.