La Ola Que Viene

Evolución y Progreso Tecnológico

• TECNOLOGÍA: La aplicación del conocimiento científico (en el sentido más amplio posible) para producir herramientas o resultados prácticos.
• Hoy en día, los sistemas de IA pueden reconocer rostros y objetos casi a la perfección. Damos por sentado la transcripción de voz a texto y la traducción de idiomas instantánea. La IA puede navegar por carreteras y tráfico lo suficientemente bien como para conducir autónomamente en algunos entornos. Basándose en unos pocos avisos simples, una nueva generación de modelos de IA puede generar imágenes novedosas y componer texto con niveles extraordinarios de detalle y coherencia. Los sistemas de IA pueden producir voces sintéticas con un realismo inquietante y componer música de una belleza asombrosa. Incluso en dominios más desafiantes, que se pensaban exclusivamente adecuados a las capacidades humanas como la planificación a largo plazo, la imaginación y la simulación de ideas complejas, el progreso avanza rápidamente.
• Me encanta la tecnología. Ha sido el motor del progreso y una razón por la que debemos sentirnos orgullosos y entusiasmados por los logros de la humanidad.
• La ironía de las tecnologías de propósito general es que, antes de mucho tiempo, se vuelven invisibles y las damos por sentadas.
• No es sorprendente que las tecnologías de consumo exhiban una tendencia similar. Alexander Graham Bell introdujo el teléfono en 1876. Para 1900, América tenía 600,000 teléfonos. Diez años después había 5.8 millones. Hoy América tiene muchos más teléfonos que personas.
• Uber era imposible sin el smartphone, que a su vez fue habilitado por el GPS, que fue habilitado por los satélites, que fueron habilitados por los cohetes, que fueron habilitados por las técnicas de combustión, que fueron habilitadas por el lenguaje y el fuego.
• Desde principios de la década de 1970, el número de transistores por chip ha aumentado diez millones de veces.
• Y, por supuesto, este aumento en la potencia computacional respaldó un florecimiento de dispositivos, aplicaciones y usuarios. A principios de la década de 1970, había aproximadamente medio millón de computadoras. En 1983, solo 562 computadoras en total estaban conectadas a la primordial internet. Ahora se estima que el número de computadoras, teléfonos inteligentes y dispositivos conectados es de 14 mil millones. Pasaron algunos años para que los teléfonos inteligentes pasaran de ser un producto de nicho a un artículo absolutamente esencial para dos tercios del planeta.
• Los luditas no tuvieron más éxito en detener nuevas tecnologías industriales que los propietarios de caballos y los fabricantes de carruajes en prevenir los automóviles. Donde hay demanda, la tecnología siempre irrumpe, encuentra tracción, construye usuarios.
• Pocas sociedades han logrado alguna vez desprenderse con éxito de la frontera tecnológica; hacerlo generalmente es parte de un colapso o provoca uno. No hay una forma realista de retroceder.
• Y, sin embargo, nada de eso parece importar. Puede que tome tiempo, pero el patrón es inconfundible: tecnologías proliferantes, más baratas y más eficientes, ola tras ola de ellas. Mientras una tecnología sea útil, deseable, asequible, accesible e insuperable, sobrevive y se extiende y esas características se acumulan. Aunque la tecnología no nos dice cuándo, cómo o si debemos atravesar las puertas que abre, tarde o temprano parece que las cruzamos.
• Por primera vez, los componentes centrales de nuestro ecosistema tecnológico abordan directamente dos propiedades fundamentales de nuestro mundo: la inteligencia y la vida. En otras palabras, la tecnología está experimentando una transición de fase. Ya no es simplemente una herramienta, va a ingenierizar la vida y rivalizar—y superar—nuestra propia inteligencia.
• técnica similar a un modelo mucho más pequeño. En Inflection AI, podemos alcanzar un rendimiento de modelo de lenguaje similar al de GPT-3 con un sistema que es solo una vigésima quinta parte del tamaño. Tenemos un modelo que supera al PaLM de Google, que tiene 540 mil millones de parámetros, en todos los principales benchmarks académicos, pero es seis veces más pequeño. O mire el modelo Chinchilla de DeepMind, competitivo con los mejores modelos grandes, que tiene cuatro veces menos parámetros que su modelo Gopher, pero utiliza más datos de entrenamiento. En el otro extremo del espectro, ahora puedes crear un nanoLLM basado en solo trescientos líneas de código capaz de generar imitaciones bastante plausibles de Shakespeare. En resumen, la IA hace cada vez más con menos.
• En palabras de John McCarthy, quien acuñó el término "inteligencia artificial": “Tan pronto como funciona, nadie lo llama IA.” La IA es—como bromeamos quienes la estamos construyendo—“lo que las computadoras no pueden hacer.” Una vez que pueden, es solo software.
• Por el momento, no importa si el sistema es autoconciente, o tiene comprensión, o posee inteligencia similar a la humana. Lo único que importa es lo que el sistema puede hacer. Concéntrate en eso, y el verdadero desafío se pone en perspectiva: los sistemas pueden hacer más, mucho más, con cada día que pasa.
• En términos simples, aprobar un Test de Turing Moderno implicaría algo como lo siguiente: una IA capaz de actuar exitosamente de acuerdo con la instrucción "Ve y gana $1 millón en Amazon en unos meses con solo una inversión de $100,000." Podría investigar en la web para ver qué está en tendencia, encontrando lo que está de moda y lo que no en Amazon Marketplace; generar una variedad de imágenes y planos de posibles productos; enviarlos a un fabricante de envío directo que encontró en Alibaba; intercambiar correos electrónicos para afinar los requisitos y acordar el contrato; diseñar un listado de vendedor; y actualizar continuamente los materiales de marketing y los diseños de productos basados en la retroalimentación de los compradores. Aparte de los requisitos legales de registrarse como negocio en el marketplace y abrir una cuenta bancaria, todo esto me parece eminentemente factible. Creo que se logrará con algunas intervenciones humanas menores dentro del próximo año, y probablemente de manera completamente autónoma en tres a cinco años.
• La IA es mucho más profunda y poderosa que solo otra tecnología. El riesgo no está en exagerarla; más bien, está en no reconocer la magnitud de la ola que se avecina. No es solo una herramienta o plataforma, sino una meta-tecnología transformadora, la tecnología detrás de la tecnología y todo lo demás, que a su vez es creadora de herramientas y plataformas, no solo un sistema, sino un generador de sistemas de todo tipo y clase. Da un paso atrás y considera lo que está sucediendo en la escala de una década o un siglo. Realmente estamos en un punto de inflexión en la historia de la humanidad.
• La ingeniería genética ha adoptado el ethos del hazlo tú mismo que una vez definió a las start-ups digitales y que condujo a una explosión de creatividad y potencial en los primeros días de internet. Ahora puedes comprar un sintetizador de ADN de banco (consulta la siguiente sección) por tan solo $25,000 y usarlo como desees, sin restricciones ni supervisión, en casa en tu bio-garaje.
• Los robots de agricultura no solo están llegando. Están aquí. Desde drones que vigilan el ganado hasta sistemas de riego de precisión, pasando por pequeños robots móviles que patrullan vastas granjas interiores, desde la siembra hasta la cosecha, desde la recolección hasta la paletización, desde el riego de tomates hasta el seguimiento y manejo del ganado, la realidad de los alimentos que consumimos hoy es que cada vez provienen más de un mundo de robots, impulsados por la IA, que actualmente se están desplegando y escalando.
• Así como Sputnik eventualmente puso a los Estados Unidos en camino para convertirse en una superpotencia en cohetes, tecnología espacial, computación y todas sus aplicaciones militares y civiles, algo similar está ocurriendo ahora en China. AlphaGo fue rápidamente etiquetado como el momento Sputnik de China para la IA.
• Los modelos de lenguaje grandes todavía se ven como lo último en tecnología, pero no hay una gran magia ni un secreto de estado oculto detrás de ellos. El acceso a la computación probablemente sea el mayor cuello de botella, pero existen muchos servicios para lograrlo. Lo mismo ocurre con CRISPR o la síntesis de ADN.
• La tecnología, como en el caso del suministro de alimentos, es una parte vital para abordar los desafíos que la humanidad enfrenta inevitablemente hoy y enfrentará mañana. Buscamos nuevas tecnologías, incluidas aquellas en la próxima ola, no solo porque las queremos, sino porque, a un nivel fundamental, las necesitamos.
• Una escuela de ingenuo tecnosolucionismo ve la tecnología como la respuesta a todos los problemas del mundo. Por sí sola, no lo es. Cómo se crea, utiliza, posee y gestiona marca la diferencia. Nadie debería pretender que la tecnología es una respuesta casi mágica a algo tan multidimensional e inmenso como el cambio climático. Pero la idea de que podemos enfrentar los desafíos definitorios del siglo sin nuevas tecnologías es completamente fantasiosa. También vale la pena recordar que las tecnologías de la ola facilitarán la vida, la harán más saludable, más productiva y más placentera para miles de millones. Ahorrarán tiempo, costos, complicaciones y millones de vidas. La importancia de esto no debería ser trivializada ni olvidada en medio de la incertidumbre.
• Todo se filtra. Todo se copia, se itera, se mejora. Y dado que todos están observando y aprendiendo unos de otros, con tantas personas raspando en las mismas áreas, inevitablemente alguien va a descubrir el próximo gran avance. Y no tendrán esperanza de contenerlo, porque incluso si lo logran, alguien más vendrá detrás de ellos y descubrirá la misma idea o encontrará una forma adyacente de hacer lo mismo; verán el potencial estratégico o el beneficio o el prestigio y lo perseguirán. Por esto es que no diremos que no. Por esto es que la próxima ola está llegando, por qué contenerla es un gran desafío.
• Empresas como Stability AI y Hugging Face aceleran formas de IA distribuidas y descentralizadas. Técnicas como CRISPR facilitan la experimentación biológica, lo que significa que los biohackers en sus garajes pueden experimentar en la frontera absoluta de la ciencia. En última instancia, compartir o copiar ADN o el código de un modelo de lenguaje grande es trivial. La apertura es la norma, las imitaciones son endémicas, las curvas de costo disminuyen implacablemente y las barreras de acceso se desmoronan. Capacidades exponenciales se otorgan a cualquiera que las desee.
• Nuestra actual suite de tecnologías es, en muchos aspectos, notable, pero hay pocas señales de que pueda implementarse de manera sostenible para apoyar a más de ocho mil millones de personas en los niveles que aquellos en países desarrollados dan por sentado. Por incómoda que sea para algunos, vale la pena repetir: resolver problemas como el cambio climático, o mantener el aumento de los estándares de vida y atención médica, o mejorar la educación y las oportunidades no va a suceder sin ofrecer nuevas tecnologías como parte del paquete. Pausar el desarrollo tecnológico, suponiendo que fuera posible, llevaría en cierto sentido a la seguridad. Para empezar, limitaría la introducción de nuevos riesgos catastróficos. Pero no significaría evitar con éxito la distopía. En cambio, a medida que la insostenibilidad de las sociedades del siglo XXI comenzara a manifestarse, simplemente entregaría otra forma de distopía. Sin nuevas tecnologías, tarde o temprano todo se estanca y posiblemente colapsa por completo. En el próximo siglo, la población global comenzará a disminuir, en algunos países de manera precipitada. A medida que la proporción de trabajadores a jubilados se modifique y la fuerza laboral disminuya, las economías simplemente no podrán funcionar a sus niveles actuales. En otras palabras, sin nuevas tecnologías será imposible mantener los estándares de vida.
• “Para el progreso no hay cura,” escribe. “Cualquier intento de encontrar canales automáticamente seguros para la actual y explosiva variedad de progreso debe llevar a la frustración.”

Dinámicas de Poder e Impacto Social

• Este es un argumento que he expuesto muchas veces en la última década a puertas cerradas, pero a medida que los impactos se vuelven cada vez más innegables, es hora de que lo presente públicamente.
• Pasa tiempo en círculos de tecnología o política, y rápidamente se hace obvio que la ideología predeterminada es la del avestruz. Creer y actuar de otra manera arriesga quedar tan incapacitado por el miedo y la indignación hacia fuerzas enormes e inexorables que todo se siente fútil.
• De hecho, los primeros entusiastas de los automóviles argumentaban a favor de sus beneficios ambientales: los motores eliminarían de las calles montañas de estiércol de caballo que propagaban suciedad y enfermedades en las áreas urbanas. No tenían ninguna concepción del calentamiento global.
• Entender la tecnología es, en parte, tratar de comprender sus consecuencias no intencionadas, prever no solo los efectos positivos colaterales, sino también los "efectos de venganza".
• Los luditas, los grupos que rechazaron violentamente las técnicas industriales, no son la excepción a la llegada de nuevas tecnologías; son la norma.
• EleutherAI, una coalición de base de investigadores independientes, ha hecho una serie de modelos de lenguaje grandes completamente de código abierto, disponibles para cientos de miles de usuarios. Meta ha liberado modelos—“democratizados,” en sus propias palabras—tan grandes que solo unos meses antes eran de última generación. Incluso cuando esa no es la intención, los modelos avanzados pueden y se filtran. El sistema LLaMA de Meta estaba destinado a ser restringido, pero pronto estuvo disponible para su descarga por cualquier persona a través de BitTorrent. En cuestión de días, alguien encontró una manera de ejecutarlo (lentamente) en una computadora de $50. Esta facilidad de acceso y capacidad de adaptación y personalización, a menudo en cuestión de semanas, es una característica prominente de la próxima ola.
• El éxito tendría importantes repercusiones sociales. Al mismo tiempo, las mejoras cognitivas, estéticas, físicas y relacionadas con el rendimiento también son plausibles y serían tan disruptivas y despreciadas como deseadas. De cualquier manera, las serias modificaciones físicas personales van a ocurrir. Los trabajos iniciales sugieren que se puede mejorar la memoria y aumentar la fuerza muscular. No pasará mucho tiempo antes de que el "dopaje genético" se convierta en un tema candente en el deporte, la educación y la vida profesional. Las leyes que rigen los ensayos clínicos y los experimentos entran en un área gris cuando se trata de la autoadministración. Experimentar con otros está claramente fuera de límites, pero, ¿experimentar contigo mismo? Al igual que con muchos otros elementos de las tecnologías de vanguardia, es un espacio legal y moralmente mal definido.
• Algo había cambiado. Si Seúl ofrecía una pista, Wuzhen la llevó a casa. A medida que el polvo se asentaba, se hacía evidente que AlphaGo era parte de una historia mucho más grande que un trofeo, un sistema o una empresa; era la de grandes potencias participando en un nuevo y peligroso juego de competencia tecnológica—y una serie de incentivos abrumadoramente poderosos e interconectados que aseguran que la próxima ola realmente está viniendo.
• Incontables amigos y colegas en Washington y Bruselas, en el gobierno, en grupos de reflexión y en el ámbito académico, siempre esgrimían la misma línea irritante: “Incluso si no estamos realmente en una carrera armamentista, debemos asumir que ‘ellos’ piensan que sí, y por lo tanto, nosotros mismos debemos apresurarnos a lograr una ventaja estratégica decisiva, ya que esta nueva ola tecnológica podría reequilibrar completamente el poder global.” Esta actitud se convierte en una profecía autocumplida.
• Pasa suficiente tiempo en entornos técnicos y, a pesar de toda la charla sobre ética y responsabilidad social, llegarás a reconocer la prevalencia de este punto de vista, incluso cuando te enfrentes a tecnologías de poder extremo. Lo he visto muchas veces, y probablemente estaría mintiendo si dijera que no he sucumbido a ello yo mismo en alguna ocasión también.
• El orden político que fomentó el aumento de la riqueza, mejores niveles de vida, educación en crecimiento, ciencia y tecnología, un mundo que tiende hacia la paz, ahora está bajo una inmensa presión, desestabilizado en parte por las mismas fuerzas que ayudó a engendrar. Las implicaciones completas son vastas y difíciles de comprender, pero para mí indican un futuro en el que el desafío del contención es más difícil que nunca.
• La idea de que la tecnología por sí sola puede resolver problemas sociales y políticos es una peligrosa ilusión. Pero la idea de que pueden ser resueltos sin tecnología también es errónea.
• Soy británico, nací y crecí en Londres, pero un lado de mi familia es sirio. Mi familia se ha visto atrapada en la terrible guerra que ha sufrido ese país en los últimos años. Sé bien cómo se ve cuando los estados fallan, y para decirlo de manera grosera, es inimaginablemente malo. Horrendo. Y cualquiera que piense que lo que sucedió en Siria nunca podría suceder "aquí" se está engañando; la gente es gente donde quiera que esté. Nuestro sistema de estados-nación no es perfecto, lejos de eso. Sin embargo, debemos hacer todo lo posible para fortalecerlo y protegerlo. Este libro, en parte, es mi intento de rally en su defensa.
• Las condiciones de vida globales son objetivamente mejores hoy que en cualquier momento del pasado. Damos por sentado el agua corriente y los abundantes suministros de alimentos. La mayoría de las personas disfrutan de calor y refugio durante todo el año. Las tasas de alfabetización, la esperanza de vida y la igualdad de género están en niveles históricos. La suma de miles de años de erudición e investigación humana está disponible con solo tocar un botón. Para la mayoría de las personas en países desarrollados, la vida se caracteriza por una facilidad y abundancia que habrían parecido incredibles en épocas pasadas. Y, sin embargo, bajo la superficie, hay un sentimiento persistente de que algo no está del todo bien.
• Que tantas personas sienten profundamente que la sociedad está fallando es en sí mismo un problema: La desconfianza engendra negatividad y apatía. Las personas se niegan a votar.
• Estas son tendencias especialmente preocupantes cuando se consideran las relaciones persistentes entre la inmovilidad social, la creciente desigualdad y la violencia política. A través de datos de más de un centenar de países, la evidencia sugiere que cuanto menor es la movilidad social de un país, más experimenta convulsiones como disturbios, huelgas, asesinatos, campañas revolucionarias y guerras civiles. Cuando las personas se sienten estancadas, que otros están acaparando injustamente las recompensas, se enojan.
• Sería necesario ser una persona valiente, o posiblemente delirante, para argumentar que todo está bien, que no hay fuerzas serias de populismo, ira y disfunción desatadas en las sociedades, a pesar de los más altos estándares de vida que el mundo haya conocido. Esto hace que la contención sea mucho más complicada. Formar un consenso nacional e internacional y establecer nuevas normas en torno a tecnologías de rápida evolución ya son desafíos difíciles. ¿Cómo podemos esperar hacer esto cuando nuestro modo base parece ser la inestabilidad?
• Un meta-análisis publicado en la revista Nature revisó los resultados de casi quinientos estudios, concluyendo que hay una correlación clara entre el creciente uso de medios digitales y el aumento de la desconfianza en la política, los movimientos populistas, el odio y la polarización. La correlación puede no ser causalidad, pero esta revisión sistemática presenta "evidencias claras de serias amenazas a la democracia" derivadas de las nuevas tecnologías.
• El poder es "la habilidad o capacidad de hacer algo o actuar de una manera particular;... dirigir o influir en el comportamiento de otros o en el curso de los eventos". Es la energía mecánica o eléctrica que respalda la civilización.
• La tecnología es, en última instancia, política porque la tecnología es una forma de poder. Y tal vez la única característica predominante de la próxima ola sea que democratizará el acceso al poder.
• Hoy, no importa cuán rico seas, simplemente no puedes comprar un smartphone más poderoso que el que está disponible para miles de millones de personas. Este logro fenomenal de la civilización es demasiado a menudo pasado por alto. En la próxima década, el acceso a las IAC seguirá la misma tendencia. Esos mismos miles de millones pronto tendrán un acceso casi igualitario al mejor abogado, médico, estratega, diseñador, entrenador, asistente ejecutivo, negociador, y así sucesivamente. Todos tendrán un equipo de clase mundial a su lado y en su esquina.
• Democratizar el acceso necesariamente significa democratizar el riesgo.
• Imagina una enorme filtración de documentos de una empresa. Una IA legal podría analizar esto en contra de múltiples sistemas legales, identificar cada posible infracción y luego demandar a esa empresa con múltiples demandas devastadoras en todo el mundo al mismo tiempo.
• Mientras que pequeños cambios en la tecnología pueden alterar fundamentalmente el equilibrio de poder, tratar de predecir exactamente cómo, décadas en el futuro, es increíblemente difícil. Las tecnologías exponenciales amplifican a todos y a todo. Y eso crea tendencias que parecen contradictorias. El poder está tanto concentrado como disperso. Los incumbentes están tanto fortalecidos como debilitados. Los estados-nación son tanto más frágiles como están en mayor riesgo de caer en abusos de poder sin control.
• Este mundo “post-soberano” ingobernable, en palabras de la politóloga Wendy Brown, irá mucho más allá de una sensación de fragilidad a corto plazo; será, en cambio, una tendencia macro a largo plazo hacia una profunda inestabilidad que se irá erosionando durante décadas. El primer resultado será nuevas concentraciones masivas de poder y riqueza que reorganizarán la sociedad.
• LAS PERSONAS A MENUDO DISFRUTAN medir el progreso en la IA comparándolo con cuán bien un ser humano puede realizar una tarea determinada. Los investigadores hablan de lograr un rendimiento sobrehumano en la traducción de idiomas o en tareas del mundo real como conducir. Pero lo que esto pasa por alto es que las fuerzas más poderosas en el mundo son en realidad grupos de individuos coordinándose para lograr metas compartidas. Las organizaciones también son una especie de inteligencia. Las empresas, los ejércitos, las burocracias, incluso los mercados—estas son inteligencias artificiales, agregando y procesando enormes cantidades de datos, organizándose en torno a objetivos específicos, construyendo mecanismos para mejorar cada vez más en lograr esos objetivos. De hecho, la inteligencia de las máquinas se asemeja mucho más a una burocracia masiva que a la mente humana. Cuando hablamos de algo como la IA teniendo un impacto enorme en el mundo, vale la pena tener en cuenta lo extendidas que son estas IA anticuadas.
• Ponga juntas todas las desigualdades resultantes de la concentración, y se suman a otra gran aceleración y profundización estructural de una fractura existente. No es de extrañar que se hable de neo- o tecno-feudalismo—un desafío directo al orden social, esta vez construido sobre algo que va más allá incluso de los estribos.
• TU ALTAVOZ INTELIGENTE TE DESPIERTA. Inmediatamente te vuelves hacia tu teléfono y revisas tus correos electrónicos. Tu reloj inteligente te dice que has tenido una noche de sueño normal y que tu ritmo cardíaco es promedio para la mañana. Ya una organización distante sabe, en teoría, a qué hora estás despierto, cómo te sientes y qué estás mirando. Sales de casa y te diriges a la oficina, tu teléfono rastreando tus movimientos, registrando las pulsaciones en tus mensajes de texto y el pódcast que escuchas. En el camino, y a lo largo del día, eres capturado por CCTV cientos de veces. Después de todo, esta ciudad tiene al menos una cámara por cada diez personas, tal vez muchas más. Cuando haces tu ingreso a la oficina, el sistema registra tu hora de entrada. El software instalado en tu computadora monitorea la productividad hasta los movimientos de tus ojos.
• El único paso que queda es reunir estas bases de datos dispares en un solo sistema integrado: un perfecto aparato de vigilancia del siglo veintiuno. El ejemplo preeminente es, por supuesto, China. Eso no es ninguna novedad, pero lo que se ha vuelto claro es cuán avanzado y ambicioso es ya el programa del partido, sin mencionar dónde podría terminar en veinte o treinta años.
• Esto presagia una colosal redistribución del poder lejos de los centros existentes. Imagina un futuro donde pequeños grupos—ya sea en estados en decadencia como Líbano o en campamentos nómadas fuera de la red en Nuevo México—proporcionen servicios potenciados por IA como cooperativas de crédito, escuelas y atención médica, servicios que están en el corazón de la comunidad, a menudo dependientes de la escala o del estado. Donde la oportunidad de establecer los términos de la sociedad a un nivel micro se vuelve irresistible: ven a nuestra escuela boutique y evita para siempre la teoría crítica de la raza, o boicotea el malvado sistema financiero y utiliza nuestro producto DeFi.
• ACI y la biología sintética empoderan a Extinction Rebellion tanto como a la megacorporación Dow Jones; el microestado con un líder carismático tanto como a un gigante torpe. Si bien algunas ventajas de tamaño pueden ser aumentadas, también pueden ser anuladas. Pregúntate qué sucede con los estados ya desgastados si cada secta, movimiento separatista, fundación benéfica y red social, cada fanático y xenófobo, cada teoría de conspiración populista, partido político, o incluso mafia, cartel de drogas o grupo terrorista tiene su oportunidad de construir un estado. Los desposeídos simplemente se volverán a empoderar—en sus propios términos. Podrían ocurrir fragmentaciones por todas partes. ¿Qué pasaría si las empresas comienzan un camino para convertirse en estados? ¿O si las ciudades deciden separarse y ganar más autonomía? ¿Qué pasaría si las personas pasan más tiempo, dinero y energía emocional en mundos virtuales que en el real? ¿Qué le sucede a las jerarquías tradicionales cuando herramientas de asombroso poder y experiencia están disponibles tanto para los niños de la calle como para los multimillonarios? Ya es un hecho notable que los titanes corporativos pasen la mayor parte de su vida trabajando en software, como Gmail o Excel, accesibles para la mayoría de las personas en el planeta. Extiende eso, de manera radical, con la democratización del empoderamiento, cuando todos en el planeta tengan acceso sin restricciones a las tecnologías más poderosas jamás construidas.
• Para muchas personas que trabajan en o están relacionadas con la tecnología, este tipo de resultados radicales no son solo productos colaterales no deseados; son el objetivo en sí mismo. Tecnólogos hiperlibertarios como el fundador de PayPal y capitalista de riesgo Peter Thiel celebran una visión del estado desvaneciéndose, viendo esto como una liberación para una especie de líderes empresariales o “individuos soberanos”, como se llaman a sí mismos. Una hoguera de servicios públicos, instituciones y normas es animada con una visión explícita donde la tecnología podría “crear el espacio para nuevos modos de disidencia y nuevas formas de formar comunidades no limitadas por los estados-nación históricos.” El movimiento tecno-libertario lleva al extremo lógico el dictum de Ronald Reagan de 1981 “El gobierno es el problema”, viendo los muchos defectos del gobierno pero no sus inmensos beneficios, creyendo que sus funciones regulatorias y fiscales son limitadoras destructivas con pocas ventajas—al menos para ellos. Me parece profundamente deprimente que algunos de los más poderosos y privilegiados tengan una visión tan limitada y destructiva, pero eso añade un impulso adicional a la fragmentación.
• Y si esta imagen suena demasiado extraña, paradójica e imposible, considera esto. La próxima ola solo profundizará y recapitulará exactamente las mismas dinámicas contradictorias de la última ola. Internet hace precisamente esto: centraliza en unos pocos centros clave mientras también empodera a miles de millones de personas. Crea gigantes y, aun así, le da a todos la oportunidad de participar. Las redes sociales crearon algunos gigantes y un millón de tribus. Todos pueden construir un sitio web, pero solo hay un Google. Todos pueden vender sus propios productos de nicho, pero solo hay un Amazon. Y así sucesivamente. La disrupción de la era de internet se explica en gran medida por esta tensión, esta potente y combustible mezcla de empoderamiento y control.
• La tecnología ha penetrado en nuestra civilización tan profundamente que ver tecnología significa ver todo. Cada laboratorio, fabri-cante y fábrica, cada servidor, cada nueva línea de código, cada cadena de ADN sintetizada, cada empresa y universidad, desde cada biohacker en una cabaña en el bosque hasta cada vasto y anónimo centro de datos. Para contrarrestar la calamidad frente a la dinámica sin precedentes de la ola que se avecina significa una respuesta sin precedentes. Significa no solo ver todo, sino reservar la capacidad de detenerlo y controlarlo siempre que sea necesario, y donde sea necesario. Algunos inevitablemente dirán esto: centralizar el poder hasta un grado extremo, construir el panóptico y orquestar de manera estricta cada aspecto de la vida para asegurar que no ocurra ninguna pandemia o IA descontrolada. Poco a poco, muchas naciones se convencerán de que la única manera de asegurar verdaderamente esto es instalar el tipo de vigilancia generalizada que vimos en el último capítulo: control total, respaldado por el poder duro. La puerta hacia la distopía está entreabierta. De hecho, frente a la catástrofe, para algunos la distopía puede sentirse como un alivio. Sugerencias como esta siguen siendo marginales, especialmente en Occidente. Sin embargo, me parece que es solo cuestión de tiempo antes de que crezcan.
• Y en el continuo entre los dos también hay una posibilidad del peor de todos los mundos: aparatos de vigilancia y control dispersos pero represivos que aún no suman un sistema a prueba de agua.
• No habrá una solución mágica y única proveniente de un grupo de personas inteligentes en un búnker en alguna parte. Al contrario. Las élites actuales están tan inmersas en su aversión al pesimismo que tienen miedo de ser honestas sobre los peligros que enfrentamos. Están felices de opinar y debatir en privado, menos de salir y hablar sobre ello. Están acostumbradas a un mundo de control y orden: el control de un CEO sobre una empresa, de un banquero central sobre las tasas de interés, de un burócrata sobre la adquisición militar, o de un planificador urbano sobre qué baches arreglar.
• Xi Jinping estaba preocupado. “Dependemos de importaciones para algunos dispositivos, componentes y materias primas críticas”, le dijo el presidente chino a un grupo de científicos del país en septiembre de 2020. Ominosamente, las “tecnologías clave y fundamentales” que consideraba tan vitales para el futuro y la seguridad geopolítica de China estaban “controladas por otros”. De hecho, China gasta más en la importación de chips que en petróleo.
• Las personas a menudo me preguntan, dado todo esto, ¿por qué trabajar en IA y construir empresas y herramientas de IA? Aparte de la enorme contribución positiva que pueden hacer, mi respuesta es que no solo quiero hablar y debatir sobre la contención. Quiero ayudar proactivamente a que suceda, estar un paso adelante, por delante de adónde va la tecnología. La contención necesita tecnólogos completamente enfocados en hacerla realidad.
• Reconozco plenamente que esto no hace que la vida sea fácil. No hay un lugar cómodo aquí. Es imposible no reconocer algunas de las paradojas. Significa que personas como yo deben enfrentar la posibilidad de que, al intentar construir herramientas positivas y prevenir resultados negativos, podríamos acelerar involuntariamente precisamente las cosas que estamos tratando de evitar, al igual que los investigadores de ganancia de función con sus experimentos virales. Las tecnologías que desarrollo pueden causar algún daño. Personalmente, continuaré cometiendo errores, a pesar de mis mejores esfuerzos por aprender y mejorar. He luchado con este punto durante años—¿quedarme atrás o involucrarme? Cuanto más cerca estás del corazón palpitante de una tecnología, más puedes afectar los resultados, guiarla en direcciones más positivas y bloquear aplicaciones dañinas. Pero esto también significa ser parte de lo que la convierte en una realidad—por todo lo bueno y por todo el daño que puede causar.
• En su mayor parte, las preocupaciones sobre la tecnología, como las que se describen en este libro, son búsquedas de élite, buenos puntos de conversación para el salón de clase empresarial, artículos de opinión para publicaciones bien pensantes, o temas para las salas de presentación en Davos o TED. La mayoría de la humanidad aún no se preocupa por estas cosas de manera sistemática. Fuera de Twitter, fuera de la burbuja, la mayoría de las personas tiene preocupaciones muy diferentes, otros problemas que exigen atención en un mundo frágil. La comunicación en torno a la IA no siempre ha ayudado, tendiendo a caer en narrativas simplistas. Entonces, si la invocación del gran "nosotros" es en este momento absurda, plantea un seguimiento obvio: construyamos uno. A lo largo de la historia, el cambio se produjo porque las personas trabajaron conscientemente para lograrlo. La presión popular creó nuevas normas. La abolición de la esclavitud, el sufragio femenino, los derechos civiles—estos son enormes logros morales que ocurrieron porque la gente luchó arduamente, formando coaliciones amplias que tomaron en serio un gran reclamo y luego llevaron a cabo cambios basados en él. El clima no solo se puso en el mapa porque la gente notara que el tiempo se volvía más extremo. Notaron porque activistas de base y científicos, y luego (algunos) escritores, celebridades, CEO y políticos, agitaron por un cambio significativo. Y actuaron en consecuencia por un deseo de hacer lo correcto.
• Todos deberíamos acostumbrarnos a vivir con contradicciones en esta era de cambio exponencial y poderes que se despliegan. Supón lo peor, planifica para ello, dale todo. Aférrate tenazmente al camino estrecho. Involucra y moviliza a un mundo más allá de las élites. Si suficientes personas comienzan a construir ese esquivo “nosotros”, esos destellos de esperanza se convertirán en llamas furiosas de cambio.
• La tecnología debería amplificar lo mejor de nosotros, abrir nuevos caminos para la creatividad y la cooperación, trabajar con el tejido humano de nuestras vidas y las relaciones más preciadas. Debería hacernos más felices y saludables, el complemento definitivo del esfuerzo humano y de una vida bien vivida—pero siempre en nuestros términos, decididos democráticamente, debatidos públicamente, con beneficios ampliamente distribuidos. En medio de la turbulencia, nunca debemos perder de vista esto: una visión que incluso los más fervientes luditas podrían abrazar.

Riesgos y preocupaciones de seguridad

• El destino de la humanidad está en la balanza, y las decisiones que tomemos en los próximos años y décadas determinarán si nos enfrentamos al desafío de estas tecnologías o si caemos víctimas de sus peligros. Pero en este momento de incertidumbre, una cosa es segura: la era de la tecnología avanzada está sobre nosotros, y debemos estar listos para enfrentar sus desafíos de frente.
• Podrían presentar una amenaza existencial para los estados-nación—risgos tan profundos que podrían interrumpir o incluso invertir el actual orden geopolítico. Abren caminos a inmensos ciberataques potenciados por IA, guerras automatizadas que podrían devastar países, pandemias diseñadas y un mundo sujeto a fuerzas incomprensibles y, sin embargo, aparentemente omnipotentes. La probabilidad de cada uno puede ser pequeña, pero las posibles consecuencias son enormes. Incluso una pequeña posibilidad de resultados como estos requiere atención urgente.
• Décadas después de su invención, los arquitectos de la bomba atómica no podían detener una guerra nuclear más que Henry Ford podía detener un accidente automovilístico. El desafío inevitable de la tecnología es que sus creadores rápidamente pierden el control sobre el rumbo que toman sus invenciones una vez que se introducen en el mundo.
• En la mayoría de los casos, la contención se trata de un control significativo, la capacidad de detener un caso de uso, cambiar una dirección de investigación o negar el acceso a actores dañinos. Significa preservar la habilidad de dirigir las olas para garantizar que su impacto refleje nuestros valores, nos ayude a florecer como especie y no introduzca daños significativos que superen sus beneficios.
• El 16 de julio de 1945, bajo los auspicios del Proyecto Manhattan, el ejército de los EE. UU. detonó un dispositivo con nombre en clave Trinity en el desierto de Nuevo México. Semanas después, un Boeing B-29 Superfortress, el Enola Gay, lanzó un dispositivo con nombre en clave Little Boy que contenía sesenta y cuatro kilogramos de uranio-235 sobre la ciudad de Hiroshima, matando a 140,000 personas. En un instante, el mundo había cambiado. Sin embargo, a partir de ahí, en el contexto más amplio de la historia, las armas nucleares no proliferaron indefinidamente. Las armas nucleares han sido detonadas solo dos veces en tiempo de guerra. Hasta la fecha, solo nueve países las han adquirido.
• La explosión más grande jamás registrada fue una prueba de una bomba de hidrógeno llamada Tsar Bomba. Detonada sobre un remoto archipiélago en el mar de Barents en 1961, la explosión creó una bola de fuego de tres millas y una nube en forma de hongo de cincuenta y nueve millas de ancho. La explosión fue diez veces más poderosa que el total combinado de todos los explosivos convencionales utilizados en la Segunda Guerra Mundial. Su escala asustó a todos. En este sentido, podría haber ayudado. Tanto Estados Unidos como Rusia se echaron atrás en su aumento de armamento ante su pura y horrible potencia. Que la tecnología nuclear se mantuviera contenida no fue un accidente; fue una política consciente de no proliferación por parte de las potencias nucleares, ayudada por el hecho de que las armas nucleares son increíblemente complejas y costosas de producir.
• La repulsión popular ante la posibilidad de una apocalipsis termonuclear fue un poderoso motivador para firmar el tratado. Pero estas armas también han sido contenidas por un cálculo frío. La destrucción mutuamente asegurada limitó a sus poseedores, ya que pronto quedó claro que usarlas con ira es una manera rápida de asegurar tu propia destrucción.
• Y en quizás el caso más conocido, la catástrofe nuclear se evitó solo durante la crisis de los misiles en Cuba cuando un hombre, el comodoro ruso en funciones, Vasili Arkhipov, se negó a dar la orden de lanzar torpedos nucleares. Los otros dos oficiales en el submarino, convencidos de que estaban bajo ataque, habían acercado al mundo a un segundo de la guerra nuclear a gran escala.
• Entonces, el equipo SWAT tuvo una nueva idea. El departamento de policía tenía un robot de desactivación de bombas, el Remotec Andros Mark 5A-1 de $150,000 fabricado por Northrop Grumman. En quince minutos idearon un plan para adjuntar un gran trozo de explosivo C-4 a su brazo y enviarlo al edificio con la intención de incapacitar al tirador. El jefe de policía, David Brown, aprobó rápidamente el plan. Entró en acción, el robot avanzando por el edificio, donde posicionó el explosivo en una sala adyacente, junto a una pared con el tirador al otro lado. El explosivo detonó, destruyendo la pared y matando al tirador. Fue la primera vez que un robot utilizó fuerza letal dirigida en los Estados Unidos. En Dallas, salvó el día. Un evento horrífico llegó a su conclusión.
• En palabras de la experta en seguridad Audrey Kurth Cronin: “Nunca antes tantos habían tenido acceso a tecnologías tan avanzadas capaces de infligir muerte y caos.”
• La investigación interna sobre GPT-4 concluyó que “probablemente” no era capaz de actuar de forma autónoma o auto-replicarse, pero dentro de pocos días después del lanzamiento, los usuarios habían encontrado maneras de hacer que el sistema solicitara su propia documentación y escribiera scripts para copiarse a sí mismo y tomar el control de otras máquinas. Investigaciones tempranas incluso afirmaron haber encontrado “chispas de AGI” en el modelo, añadiendo que estaba “notablemente cerca del rendimiento a nivel humano.” Ahora esto está saliendo a la luz.
• Una paradoja de la próxima ola es que sus tecnologías están en gran medida fuera de nuestra capacidad para comprender a un nivel granular, pero aún dentro de nuestra capacidad para crear y usar. En la IA, las redes neuronales que avanzan hacia la autonomía no son explicables en la actualidad.
• Los ingenieros no pueden mirar debajo del capó y explicar fácilmente qué causó que algo sucediera. GPT-4, AlphaGo y el resto son cajas negras, sus salidas y decisiones basadas en cadenas opacas e intrincadas de señales minúsculas. Los sistemas autónomos pueden y pueden ser explicables, pero el hecho de que gran parte de la próxima ola opere en el límite de lo que podemos entender debería hacernos reflexionar. No siempre podremos predecir qué harán estos sistemas autónomos a continuación; esa es la naturaleza de la autonomía.
• Durante mucho tiempo me opuse, resistiendo la concepción del progreso tecnológico como una carrera armamentista internacional de suma cero. En DeepMind, siempre me opuse a las referencias a nosotros como un Proyecto Manhattan para la IA, no solo por la comparación nuclear, sino porque incluso el marco podría iniciar una serie de otros Proyectos Manhattan, alimentando una dinámica de carrera armamentista cuando se necesitaban coordinación global cercana, puntos de ruptura y desaceleraciones. Pero la realidad es que la lógica de los estados-nación es a veces dolorosamente simple y, sin embargo, totalmente inevitable. En el contexto de la seguridad nacional de un estado, simplemente plantear una idea se vuelve peligroso.
• EN LA SEGUNDA GUERRA MUNDIAL, el Proyecto Manhattan, que consumió el 0.4 por ciento del PIB de EE. UU., fue visto como una carrera contra el tiempo para obtener la bomba antes que los alemanes. Pero los nazis inicialmente habían descartado la búsqueda de armas nucleares, considerándolas demasiado caras y especulativas. Los soviéticos estaban muy rezagados y eventualmente dependieron de filtraciones extensas de Estados Unidos. América había llevado a cabo una carrera armamentista contra fantasmas, introduciendo armas nucleares en el mundo mucho antes que en otras circunstancias.
• Declarar una carrera armamentista ya no es un acto de conjuro, una profecía autocumplida. La profecía se ha cumplido. Está aquí, está sucediendo. Es un punto tan obvio que rara vez se menciona: no hay una autoridad central que controle qué tecnologías se desarrollan, quién las desarrolla y con qué propósito; la tecnología es una orquesta sin director. Sin embargo, este solo hecho podría resultar ser el más significativo del siglo veintiuno. Y si la frase “carrera armamentista” provoca preocupación, hay una buena razón para ello. Difícilmente podría haber una base más precaria para un conjunto de tecnologías en escalada que la percepción (y la realidad) de una competencia de suma cero construida sobre el miedo. Sin embargo, hay otros impulsores de la tecnología, más positivos, a considerar.
• El NHS había sido golpeado por un ataque de ransomware. Se llamó WannaCry, y su escala fue inmensa. El ransomware funciona comprometiendo un sistema para cifrar y, por lo tanto, bloquear el acceso a archivos y capacidades clave. Los ciberatacantes típicamente exigen un rescate a cambio de liberar un sistema cautivo. El NHS no fue el único objetivo de WannaCry. Al explotar una vulnerabilidad en sistemas antiguos de Microsoft, los hackers encontraron una manera de detener grandes extensiones del mundo digital, incluyendo organizaciones como Deutsche Bahn, Telefónica, FedEx, Hitachi, e incluso el Ministerio de Seguridad Pública de China. WannaCry engañó a algunos usuarios para que abrieran un correo electrónico, que liberó un "gusano" que se replicaba y transportaba a sí mismo para infectar a un cuarto de millón de computadoras en 150 países en solo un día. Durante algunas horas tras el ataque, gran parte del mundo digital tambaleó, retenido como rehén por un agresor distante y sin rostro. Los daños resultantes costaron hasta 8 mil millones de dólares, pero las implicaciones fueron aún más graves. El ataque de WannaCry expuso cuán vulnerables eran las instituciones cuya operación damos por sentada a sofisticados ciberataques.
• Ahora imagina si, en lugar de dejar accidentalmente una escapatoria, los hackers detrás de WannaCry hubieran diseñado el programa para aprender de manera sistemática sobre sus propias vulnerabilidades y parcharlas repetidamente. Imagina si, mientras atacaba, el programa evolucionara para explotar debilidades adicionales. Imagina que luego comenzara a moverse a través de cada hospital, cada oficina, cada hogar, mutando y aprendiendo constantemente. Podría afectar los sistemas de soporte vital, la infraestructura militar, la señalización de transporte, la red eléctrica, las bases de datos financieras. A medida que se propagara, imagina el programa aprendiendo a detectar y detener nuevos intentos de apagarlo. Un arma como esta está en el horizonte, si es que no está ya en desarrollo.
• las palabras de una investigación del New York Times, esto fue una “prueba inaugural de un tirador de alta tecnología, computarizado y equipado con inteligencia artificial y múltiples cámaras, operado por satélite y capaz de disparar 600 proyectiles por minuto.” Montado en una camioneta aparentemente inofensiva, estratégicamente aparcada y equipada con cámaras, era una especie de arma robótica ensamblada por agentes israelíes. Un humano autorizó el ataque, pero fue la IA la que ajustó automáticamente la puntería del arma. Solo se dispararon quince balas y una de las personas más destacadas y protegidas de Irán fue asesinada en menos de un minuto. La explosión fue simplemente un intento fallido de ocultar la evidencia.
• Las start-ups como Anduril, Shield AI y Rebellion Defense han recaudado cientos de millones de dólares para construir redes de drones autónomos y otras aplicaciones militares de IA. Tecnologías complementarias como la impresión 3-D y las comunicaciones móviles avanzadas reducirán el costo de los drones tácticos a unos pocos miles de dólares, poniéndolos al alcance de todos, desde entusiastas amateurs hasta paramilitares y psicópatas solitarios.
• Cue un “Infocalipsis,” el punto en el que la sociedad ya no puede gestionar un torrente de material sospechoso, donde el ecosistema de información que sustenta el conocimiento, la confianza y la cohesión social, el pegamento que mantiene unida a la sociedad, se desmorona. En palabras de un informe de la Brookings Institution, los medios sintéticos ubicuos y perfectos significan “distorsionar el discurso democrático; manipular elecciones; erosionar la confianza en las instituciones; debilitar el periodismo; exacerbar las divisiones sociales; socavar la seguridad pública; e infligir daños difíciles de reparar a la reputación de individuos prominentes, incluidos funcionarios electos y candidatos a cargos públicos.”
• Eventualmente, a medida que algunas de las tecnologías más poderosas de la historia se filtren en todas partes, esos casos extremos se vuelven más probables. Eventualmente, algo saldrá mal—en escalas y velocidades acordes con las capacidades desatadas. La conclusión de las cuatro características de la próxima ola es que, en ausencia de métodos de contención sólidos que operen en todos los niveles, resultados catastróficos como una pandemia diseñada son más posibles que nunca. Eso es inaceptable. Y, sin embargo, aquí está el dilema: las soluciones más seguras para la contención son igualmente inaceptables, llevando a la humanidad por un camino autoritario y distópico.
• Pero el hecho de que una advertencia tenga implicaciones dramáticas no es un buen motivo para rechazarla automáticamente. La complacencia, reacia al pesimismo, que saluda la perspectiva de un desastre es, en sí misma, una receta para el desastre. Se siente plausible, racional en sus propios términos, "inteligente" desestimar las advertencias como el chismorreo exagerado de unos pocos raros, pero esta actitud allana el camino para su propio fracaso. Sin duda, el riesgo tecnológico nos lleva a un territorio incierto. Sin embargo, todas las tendencias apuntan a una profusión de riesgos. Esta especulación está fundamentada en mejoras científicas y tecnológicas que se acumulan constantemente. Aquellos que desestiman la catástrofe están, creo, desestimando los hechos objetivos que tenemos ante nosotros. Después de todo, aquí no estamos hablando de la proliferación de motocicletas o lavadoras.
• Los terroristas montan armas automáticas equipadas con reconocimiento facial a un enjambre de drones autónomos de cientos o miles de unidades, cada uno capaz de reequilibrarse rápidamente tras el retroceso del arma, disparando ráfagas cortas y moviéndose. Estos drones son desatados en un importante centro urbano con instrucciones de matar un perfil específico. En la ajetreada hora pico, operarían con una eficiencia aterradora, siguiendo una ruta optimizada por la ciudad. En minutos habría un ataque a una escala mucho mayor que, digamos, los ataques de Mumbai en 2008, que vieron a terroristas armados deambulando por puntos emblemáticos de la ciudad como la estación de tren central.
• Un asesino en masa decide atacar un gran mitin político con drones, dispositivos de pulverización y un patógeno a medida. Pronto los asistentes se enferman, luego sus familias...
• Comienza a seguir cadenas de lógica como esta y una multitud de secuencias de eventos inquietantes se desenrollan. Los investigadores en seguridad de la IA se preocupan (correctamente) de que si se crea algo como una AGI, la humanidad ya no controlaría su propio destino. Por primera vez, seríamos destronados como la especie dominante en el universo conocido. Sin importar cuán inteligentes sean los diseñadores, sin importar cuán robustos sean los mecanismos de seguridad, prever todas las eventualidades, garantizar la seguridad, es imposible. Incluso si estuviera completamente alineada con los intereses humanos, una IA lo suficientemente poderosa podría potencialmente sobrescribir su programación, descartando las características de seguridad y alineación que aparentemente están integradas.
• Aum Shinrikyo combinó un inusual grado de organización con un aterrador nivel de ambición. Querían iniciar la Tercera Guerra Mundial y un colapso global al asesinar a una escala impactante y comenzaron a construir una infraestructura para hacerlo. Por un lado, es reconfortante cuán raras son organizaciones como Aum Shinrikyo. De los muchos incidentes terroristas y otras masacres perpetradas por actores no estatales desde la década de 1990, la mayoría han sido llevadas a cabo por solitarios perturbados o grupos con agendas políticas o ideológicas específicas. Pero, por otro lado, este consuelo tiene límites. Obtener armas de gran poder era anteriormente una enorme barrera de entrada, ayudando a mantener la catástrofe a raya. El enfermizo nihilismo del tirador escolar está limitado por las armas a las que pueden acceder. El Unabomber solo tenía dispositivos hechos en casa. Construir y diseminar armas biológicas y químicas representaron enormes desafíos para Aum Shinrikyo. Como una pequeña coterie fanática que operaba en una atmósfera de secreto paranoico, con solo experiencia y acceso limitado a materiales, cometieron errores. Sin embargo, a medida que la próxima ola madura, las herramientas de destrucción serán, como hemos visto, democratizadas y comercializadas. Tendrán mayor capacidad y adaptabilidad, potencialmente operando de maneras más allá del control o comprensión humana, evolucionando y actualizándose rápidamente, algunos de los mayores poderes ofensivos de la historia disponibles ampliamente.
• ES TENTADOR DESCARTAR todos estos oscuros escenarios de riesgo como los lejanos sueños de personas que crecieron leyendo demasiada ciencia ficción, aquellos sesgados hacia el catastrofismo. Tentador, pero un error. Independientemente de dónde estemos con los protocolos BSL-4 o las propuestas regulatorias o las publicaciones técnicas sobre el problema de alineación de la IA, esos incentivos siguen desgastándose, las tecnologías continúan desarrollándose y difundiéndose. Esto no es materia de novelas especulativas y series de Netflix. Esto es real, se está trabajando en ello en este mismo momento en oficinas y laboratorios de todo el mundo.
• El intercambio entre libertad y seguridad es un dilema antiguo. Estuvo presente en la narrativa fundamental del estado Leviatán de Thomas Hobbes. Nunca ha desaparecido. Sin duda, esta es a menudo una relación compleja y multidimensional, pero la próxima ola eleva las apuestas a un nuevo nivel. ¿Qué nivel de control social es apropiado para detener una pandemia diseñada? ¿Qué nivel de interferencia en otros países es apropiado para el mismo fin? Las consecuencias para la libertad, la soberanía y la privacidad nunca han sido tan potencialmente dolorosas.
• Si este libro parece contradictorio en su actitud hacia la tecnología, parte positiva y parte ominosa, es porque tal visión contradictoria es la evaluación más honesta de dónde estamos. Nuestros tatarabuelos quedarían asombrados ante la abundancia de nuestro mundo. Pero también se sorprenderían ante su fragilidad y peligros. Con la ola que se acerca, enfrentamos una amenaza real, una cascada de consecuencias potencialmente desastrosas—sí, incluso un riesgo existencial para la especie. La tecnología es lo mejor y lo peor de nosotros. No hay un enfoque unidimensional que le haga justicia. El único enfoque coherente hacia la tecnología es ver ambos lados al mismo tiempo.
• El dilema debería ser un llamado urgente a la acción. Pero a lo largo de los años se ha vuelto obvio que la mayoría de las personas encuentra esto difícil de asimilar. Lo entiendo perfectamente. Apenas parece real en el primer encuentro. En todas esas muchas discusiones sobre la IA y la regulación, me ha sorprendido lo difícil que es, en comparación con una serie de desafíos existentes o inminentes, transmitir exactamente por qué los riesgos en este libro deben tomarse en serio, por qué no son solo riesgos de cola casi irrelevantes o propiedad de la ciencia ficción.
• ¿Cómo encontramos un terreno común en medio de agendas en competencia? China y Estados Unidos no comparten una visión de restringir el desarrollo de la IA; Meta no compartiría la opinión de que las redes sociales son parte del problema; los investigadores de IA y los virólogos creen que su trabajo es una parte crítica no de causar catástrofe, sino de entenderla y prevenirla. La "tecnología" no es, a primera vista, un problema en el mismo sentido que un planeta en calentamiento. Y, sin embargo, podría serlo. El primer paso es el reconocimiento. Necesitamos reconocer con calma que la ola se avecina y el dilema es, en ausencia de un cambio drástico de rumbo, inevitable.
• A medida que avanza el siglo, se tendrá que reaprender la lección de la Guerra Fría: no hay camino hacia la seguridad tecnológica sin trabajar con tus adversarios.
• Los riesgos de fracaso apenas son concebibles, pero debemos enfrentarlos. Sin embargo, el premio es asombroso: nada menos que el florecimiento seguro a largo plazo de nuestra preciosa especie. Eso vale la pena luchar por ello.

Gobernanza y Regulación

• Antes de que nazcan más bebés CRISPR, el mundo probablemente necesitará confrontar la selección iterada de embriones que también podría seleccionar rasgos deseados.
• Solo hay una entidad que podría, tal vez, proporcionar la solución, una que ancla nuestro sistema político y asume la responsabilidad final por las tecnologías que la sociedad produce: el estado-nación. Pero hay un problema. Los estados ya enfrentan una enorme presión, y la ola que se avecina parece destinada a complicar aún más las cosas. Las consecuencias de esta colisión darán forma al resto del siglo.
• LAS DEMOCRACIAS SE CONSTRUYEN SOBRE la confianza. La gente necesita confiar en que los funcionarios del gobierno, los militares y otras élites no abusarán de sus posiciones dominantes. Todos dependen de la confianza en que los impuestos se pagarán, las reglas se honrarán y los intereses de la totalidad se pondrán por encima de los individuales. Sin confianza, desde la urna hasta la declaración de impuestos, desde el consejo local hasta el poder judicial, las sociedades están en problemas. La confianza en el gobierno, particularmente en América, ha colapsado. Las administraciones presidenciales de la posguerra, como las de Eisenhower y Johnson, eran confiables para hacer "lo que es correcto" por más del 70 por ciento de los estadounidenses, según una encuesta de Pew. Para presidentes recientes como Obama, Trump y Biden, esta medida de confianza ha caído en picada, todos por debajo del 20 por ciento.
• Los líderes tendrán que tomar acciones audaces sin precedentes, sacrificando ganancias a corto plazo por beneficios a largo plazo. Responder de manera efectiva a uno de los eventos más profundos y transformadores de la historia requerirá gobiernos maduros, estables y, sobre todo, confiables que operen en su mejor momento. Estados que funcionen realmente, realmente bien. Eso es lo que se necesitará para asegurar que la próxima ola entregue los grandes beneficios que promete. Es una tarea increíblemente difícil.
• Si tan solo fuera tan simple. Decir “¡Regulación!” ante un asombroso cambio tecnológico es la parte fácil. También es la respuesta clásica que evade el pesimismo. Es una manera sencilla de despreciar el problema. En papel, la regulación parece tentadora, incluso obvia y directa; sugerirla permite que las personas suenen inteligentes, preocupadas e incluso aliviadas. La implicación no dicha es que es solucionable, pero es un problema de alguien más. Sin embargo, al mirar más de cerca, las fisuras se vuelven evidentes.
• La tecnología evoluciona semana tras semana. La elaboración y aprobación de legislación toma años. Considera la llegada de un nuevo producto al mercado como el timbre Ring. Ring puso una cámara en tu puerta principal y la conectó a tu teléfono. El producto fue adoptado tan rápidamente y ahora está tan extendido que ha cambiado fundamentalmente la naturaleza de lo que necesita regulación; de repente, tu calle suburbana promedio pasó de ser un espacio relativamente privado a estar vigilada y grabada. Para cuando la conversación sobre regulación se puso al día, Ring ya había creado una extensa red de cámaras, acumulando datos e imágenes de las puertas de entrada de personas alrededor del mundo. Veinte años después del amanecer de las redes sociales, no hay un enfoque consistente ante la aparición de una nueva plataforma poderosa (y además, ¿es la privacidad, la polarización, el monopolio, la propiedad extranjera o la salud mental el problema central—o todos los anteriores?). La próxima ola empeorará esta dinámica.
• La verdad, sin embargo, es que las amenazas novedosas son simplemente excepcionalmente difíciles de navegar para cualquier gobierno. Esa no es una falla de la idea de gobierno; es una evaluación de la magnitud del desafío que tenemos ante nosotros. Cuando se enfrentan a algo como un ACI que puede pasar mi versión del Test de Turing Moderno, la respuesta incluso de las burocracias más reflexivas y previsivas se parecerá a la respuesta ante el COVID. Los gobiernos luchan la última guerra, la última pandemia, regulan la última ola. Los reguladores regulan cosas que pueden anticipar. Este, mientras tanto, es una era de sorpresas.
• El principal organismo de control de armas biológicas, por ejemplo, la Convención sobre Armas Biológicas, tiene un presupuesto de solo $1.4 millones y solo cuatro empleados a tiempo completo—menos que el promedio de un McDonald's.
• Las API que permiten a otros utilizar servicios de IA fundamentales no deberían ser abiertas sin más, sino que deberían incluir verificaciones de "conoce a tu cliente", como, por ejemplo, en algunas partes de la industria bancaria.
• Los ciudadanos estadounidenses que trabajan en semiconductores con empresas chinas se enfrentan a una elección: mantener sus empleos y perder la ciudadanía estadounidense, o renunciar de inmediato.

Naturaleza Humana y Psicología

• AVERSIÓN AL PESIMISMO: La tendencia de las personas, particularmente de las élites, a ignorar, minimizar o rechazar narrativas que consideran excesivamente negativas. Una variante del sesgo de optimismo, tiñe gran parte del debate sobre el futuro, especialmente en círculos tecnológicos.
• ¿Qué ves? ¿Muebles? ¿Edificios? ¿Teléfonos? ¿Comida? ¿Un parque paisajístico? Casi cada objeto en tu línea de visión ha sido, con alta probabilidad, creado o alterado por la inteligencia humana. El lenguaje—la base de nuestras interacciones sociales, de nuestras culturas, de nuestras organizaciones políticas, y quizás de lo que significa ser humano—es otro producto, y motor, de nuestra inteligencia. Cada principio y concepto abstracto, cada pequeño esfuerzo o proyecto creativo, cada encuentro en tu vida, ha sido mediado por la capacidad única y complejamente infinita de nuestra especie para la imaginación, la creatividad y la razón. La ingeniosidad humana es algo asombroso.
• No es una exageración decir que la totalidad del mundo humano depende ya sea de sistemas vivos o de nuestra inteligencia.
• He llegado a llamar a la trampa de aversión al pesimismo: el análisis equivocado que surge cuando te abruma el miedo a confrontar realidades potencialmente oscuras, y la tendencia resultante a mirar hacia otro lado. Prácticamente todos tienen alguna versión de esta reacción, y la consecuencia es que nos está llevando a pasar por alto una serie de tendencias críticas que se desarrollan justo ante nuestros ojos. Es casi una respuesta fisiológica innata. Nuestra especie no está diseñada para lidiar verdaderamente con la transformación a esta escala, y mucho menos con el potencial de que la tecnología pueda fallarnos de esta manera. He experimentado este sentimiento a lo largo de mi carrera, y he visto a muchos, muchos otros tener la misma respuesta visceral. Confrontar este sentimiento es uno de los propósitos de este libro. Tomar un vistazo frío y duro a los hechos, aunque sea incómodo.
• No somos solo los creadores de nuestras herramientas. Somos, hasta el nivel biológico, el nivel anatómico, un producto de ellas.
• No existe tal cosa como un ser humano no tecnológico.
• Las tecnologías son ideas, y las ideas no pueden ser eliminadas.
• Poco es, en última instancia, más valioso que la inteligencia.
• Los científicos y tecnólogos son demasiado humanos. Anhelan estatus, éxito y un legado. Quieren ser los primeros y los mejores y ser reconocidos como tales. Son competitivos e ingeniosos, con un sentido cuidadosamente cultivado de su lugar en el mundo y en la historia. Les encanta romper límites, a veces por dinero pero a menudo por gloria, a veces simplemente por el placer de hacerlo. Los científicos e ingenieros en inteligencia artificial están entre las personas mejor pagadas del mundo, y aun así, lo que realmente los saca de la cama es la perspectiva de ser los primeros en un avance o ver su nombre en un artículo emblemático. Aménsalos o detéstalos, los magnates de la tecnología y los emprendedores son vistos como faros únicos de poder, riqueza, visión y pura voluntad.
• El mito de Silicon Valley del fundador de una start-up heroico construyendo un imperio en solitario frente a un mundo hostil e ignorante persiste por una razón. Es la autoimagen a la que los tecnólogos todavía aspiran con demasiada frecuencia, un arquetipo a emular, una fantasía que aún impulsa nuevas tecnologías.
• Psicológicamente, nada de esto se siente presente. Nuestros cerebros prehistóricos son generalmente incapaces de lidiar con amenazas amorfas como estas. Sin embargo, en la última década, el desafío del cambio climático ha cobrado mayor relevancia. Aunque el mundo sigue emitiendo cantidades crecientes de CO2, científicos en todas partes pueden medir partes por millón (ppm) de CO2 en la atmósfera. Tan recientemente como en la década de 1970, el carbono atmosférico global estaba alrededor de los 300 ppm bajos. En 2022 estaba en 420 ppm. Ya sea en Pekín, Berlín o Burundi, ya sea un gigante del petróleo o una granja familiar, todos pueden ver, objetivamente, lo que está sucediendo con el clima. Los datos traen claridad.

Transformación Económica e Industrial

• El economista ganador del Premio Nobel, William Nordhaus, calculó que la misma cantidad de trabajo que una vez produjo cincuenta y cuatro minutos de luz de calidad en el siglo XVIII ahora produce más de cincuenta años de luz. Como resultado, la persona promedio en el siglo XXI tiene acceso a aproximadamente 438,000 veces más “horas-lumen” por año que nuestros primos del siglo XVIII.
• En la era del abundante capital de riesgo, distinguir los objetos brillantes de los avances genuinos no es tan sencillo.
• Piense en ellos como listas de tareas proto–que se realizan solas, lo que permite la automatización de una amplia gama de tareas. Hablaremos de los robots más adelante, pero la verdad es que para una vasta gama de tareas en la economía mundial hoy en día, todo lo que necesita es acceso a una computadora; la mayor parte del PIB global se mediatiza de alguna manera a través de interfaces basadas en pantallas aptas para una IA.
• La inmensa industria petroquímica podría enfrentar un desafío por parte de jóvenes start-ups como Solugen, cuyo Bioforge es un intento de construir una fábrica con carbono negativo; produciría una amplia gama de productos químicos y materias primas, desde productos de limpieza hasta aditivos alimentarios y concreto, todo mientras extrae carbono de la atmósfera. Su proceso es esencialmente una bio-manufactura de bajo consumo energético y bajo desperdicio a escala industrial, basada en inteligencia artificial y biotecnología. Otra empresa, LanzaTech, aprovecha bacterias genéticamente modificadas para convertir el CO2 residual de la producción en acerías en productos químicos industriales de uso generalizado. Este tipo de biología sintética está ayudando a construir una economía “circular” más sostenible. Las impresoras de ADN de próxima generación producirán ADN con un grado de precisión cada vez mayor. Si se pueden hacer mejoras no solo en la expresión de ese ADN sino también en su uso para diseñar genéticamente una variedad diversa de nuevos organismos, automatizando y escalando los procesos, un dispositivo o conjunto de dispositivos podría, teóricamente, producir una enorme gama de materiales y construcciones biológicas utilizando solo unos pocos insumos básicos.
• (Vida + Inteligencia) x Energía = Civilización Moderna.
• La energía renovable se convertirá en la fuente de generación de electricidad más grande para 2027. Este cambio está ocurriendo a un ritmo sin precedentes, con más capacidad renovable que se añadirá en los próximos cinco años que en las dos décadas anteriores. La energía solar, en particular, está experimentando un crecimiento rápido, con costos que están disminuyendo significativamente. En 2000, la energía solar costaba 4.88 dólares por vatio, pero para 2019 había caído a solo 38 centavos.
• EL BOOM FERROVIARIO DE la década de 1840 fue “indiscutiblemente la mayor burbuja en la historia.” Pero en los anales de la tecnología, es más norma que excepción. No había nada inevitable sobre la llegada de los ferrocarriles, pero había algo inevitable sobre la oportunidad de hacer dinero.
• La verdad es que la curiosidad de los investigadores académicos o la voluntad de gobiernos motivados es insuficiente para impulsar nuevos avances en manos de miles de millones de consumidores. La ciencia tiene que convertirse en productos útiles y deseables para que realmente se difunda ampliamente. Dicho de manera simple: la mayoría de la tecnología está hecha para ganar dinero.
• Este motor ha creado una economía mundial valorada en 85 billones de dólares—y sigue creciendo. Desde los pioneros de la Revolución Industrial hasta los emprendedores de Silicon Valley de hoy, la tecnología tiene un incentivo magnético en forma de serias recompensas financieras. La ola que se avecina representa el mayor premio económico de la historia.
• CUANDO UNA CORPORACIÓN AUTOMATIZA las reclamaciones de seguros o adopta una nueva técnica de fabricación, crea ahorros de eficiencia o mejora el producto, aumentando las ganancias y atrayendo nuevos clientes. Una vez que una innovación proporciona una ventaja competitiva como esta, todos deben adoptarla, superarla, cambiar de enfoque o perder participación en el mercado y eventualmente quebrar. La actitud en torno a esta dinámica en las empresas tecnológicas en particular es simple y despiadada: construye la próxima generación de tecnología o sé destruido.
• PwC pronostica que la IA añadirá $15.7 billones a la economía global para 2030. McKinsey pronostica un aumento de $4 billones provenientes de la biotecnología durante el mismo periodo. Aumentar las instalaciones de robots en el mundo un 30 por ciento por encima de una proyección base podría liberar un dividendo de $5 billones, una suma mayor que toda la producción de Alemania. Especialmente cuando otras fuentes de crecimiento son cada vez más escasas, estos son incentivos poderosos. Con utilidades tan altas, interrumpir la fiebre del oro probablemente será increíblemente desafiante.
• Los vehículos eléctricos pueden no emitir carbono cuando están en funcionamiento, pero aun así requieren muchos recursos: los materiales para un solo vehículo eléctrico requieren la extracción de alrededor de 225 toneladas de materias primas finitas, cuya demanda ya está aumentando de manera insostenible.
• Sí, es casi seguro que se crearán muchas nuevas categorías de empleo. ¿Quién hubiera pensado que "influencer" se convertiría en un rol muy solicitado? ¿O imaginar que en 2023 las personas estarían trabajando como "ingenieros de prompt", programadores no técnicos de grandes modelos de lenguaje que se vuelven expertos en obtener respuestas específicas? La demanda de masajistas, chelistas y lanzadores de béisbol no desaparecerá. Pero mi mejor suposición es que los nuevos empleos no surgirán en la cantidad o el plazo necesario para realmente ayudar. El número de personas que pueden obtener un doctorado en aprendizaje automático seguirá siendo muy pequeño en comparación con la magnitud de los despidos. Y, claro, la nueva demanda creará nuevo trabajo, pero eso no significa que todo sea realizado por seres humanos.
• Los mercados laborales también tienen una enorme fricción en términos de habilidades, geografía e identidad. Considere que en la última fase de desindustrialización, el trabajador del acero en Pittsburgh o el fabricante de automóviles en Detroit apenas podían simplemente empacar, recualificarse a mitad de carrera y conseguir un trabajo como operador de derivados en Nueva York o consultor de marcas en Seattle o maestro en Miami. Si Silicon Valley o la Ciudad de Londres crea muchos nuevos empleos, no ayuda a las personas del otro lado del país si no tienen las habilidades adecuadas o no pueden reubicarse. Si su sentido de identidad está ligado a un tipo particular de trabajo, es poco consuelo si siente que su nuevo trabajo devalúa su dignidad.
• El Índice de Calidad del Empleo del Sector Privado, una medida de cuántos empleos ofrecen ingresos superiores a la media, ha caído desde 1990; sugiere que los empleos bien remunerados como proporción del total ya han comenzado a disminuir.
• Para tener una idea de estas concentraciones, considera que los ingresos combinados de las empresas en el Global 500 de Fortune ya representan el 44 por ciento del PIB mundial. Sus ganancias totales son mayores que las de todos los países, exceptuando a los seis principales en PIB anual. Las empresas ya controlan los mayores grupos de procesadores de inteligencia artificial, los mejores modelos, las computadoras cuánticas más avanzadas y la abrumadora mayoría de la capacidad robótica y de propiedad intelectual. A diferencia de los cohetes, satélites e internet, la frontera de esta ola se encuentra en las corporaciones, no en organizaciones gubernamentales o laboratorios académicos. Acelera este proceso con la próxima generación de tecnología, y un futuro de concentración corporativa no parece tan extraordinario.
• Samsung y Corea son excepciones, pero quizás no por mucho tiempo. Dada la gama de capacidades concentradas, cosas que típicamente son provincias de los gobiernos hoy en día, como la educación y la defensa, quizás incluso la moneda o la aplicación de la ley, podrían ser proporcionadas por esta nueva generación de empresas. Ya, por ejemplo, el sistema de resolución de disputas de eBay y PayPal maneja alrededor de sesenta millones de desacuerdos al año, tres veces más que todo el sistema legal de EE. UU. El noventa por ciento de estas disputas se resuelven utilizando solo tecnología.
• LA CIVILIZACIÓN MODERNA EMITE CHEQUES que solo el desarrollo tecnológico continuo puede cobrar. Todo nuestro edificio se basa en la idea del crecimiento económico a largo plazo. Y el crecimiento económico a largo plazo, en última instancia, se basa en la introducción y difusión de nuevas tecnologías. Ya sea la expectativa de consumir más por menos o de recibir cada vez más servicios públicos sin pagar más impuestos, o la idea de que podemos degradar insosteniblemente el medio ambiente mientras la vida sigue mejorando indefinidamente, el pacto—arguiblemente el gran pacto en sí—necesita tecnología.
• A largo plazo, sin embargo, eso probablemente no lo detendrá. En cambio, está impulsando un camino difícil y tremendamente costoso, pero aún plausible, hacia la capacidad de semiconductores en el país. Si requiere cientos de miles de millones de dólares (y lo hará), los gastarán. Las empresas chinas ya están encontrando formas de eludir los controles, utilizando redes de empresas fachada y de fachada y servicios de computación en la nube en países terceros. NVIDIA, el fabricante estadounidense de los chips de IA más avanzados del mundo, recientemente modificó retroactivamente sus chips más avanzados para evadir las sanciones. No obstante, nos muestra algo vital: hay al menos una palanca innegable. La ola puede ser ralentizada, al menos durante algún período de tiempo y en algunas áreas.
• En IA, la mayor parte de las GPU más avanzadas, esenciales para los últimos modelos, son diseñadas por una empresa, la firma estadounidense NVIDIA. La mayoría de sus chips son fabricados por una empresa, TSMC, en Taiwán, la más avanzada en un solo edificio, la fábrica más sofisticada y cara del mundo. La maquinaria de TSMC para fabricar estos chips proviene de un solo proveedor, la firma holandesa ASML, con diferencia la empresa tecnológica más valiosa e importante de Europa. Las máquinas de ASML, que utilizan una técnica conocida como litografía ultravioleta extrema y producen chips con niveles de sorprendente precisión atómica, se encuentran entre los bienes manufacturados más complejos de la historia. Estas tres empresas tienen un control absoluto sobre los chips de vanguardia, una tecnología tan físicamente limitada que una estimación argumenta que costarían hasta $10 mil millones por kilogramo.
• Los chips no son el único punto crítico. La computación en la nube a escala industrial también está dominada por seis empresas importantes. Por ahora, la IAG es perseguida de manera realista por un puñado de grupos bien financiados, siendo los más notables DeepMind y OpenAI. El tráfico global de datos viaja a través de un número limitado de cables de fibra óptica agrupados en puntos clave (frente a la costa del suroeste de Inglaterra o de Singapur, por ejemplo). Una crisis en los elementos de tierras raras cobalto, niobio y tungsteno podría derribar industrias enteras. Aproximadamente el 80 por ciento del cuarzo de alta calidad esencial para cosas como paneles fotovoltaicos y chips de silicio proviene de una sola mina en Carolina del Norte. Los sintetizadores de ADN y las computadoras cuánticas no son productos de consumo comunes. Las habilidades también son un punto crítico: el número de personas que trabajan en todas las tecnologías de frontera discutidas en este libro probablemente no sea más de 150,000.

Innovación Científica e Investigación

• Mientras observábamos desde nuestra sala de control, la tensión era irreal. Sin embargo, a medida que se acercaba el desenlace, ese movimiento "equivocado" resultó ser pivotal. AlphaGo ganó de nuevo. La estrategia de Go se estaba reescribiendo ante nuestros ojos. Nuestra IA había descubierto ideas que no se le había ocurrido a los jugadores más brillantes en miles de años. En apenas unos meses, pudíamos entrenar algoritmos para descubrir nuevo conocimiento y encontrar nuevas percepciones aparentemente sobrehumanas.
• AlexNet fue creado por el legendario investigador Geoffrey Hinton y dos de sus estudiantes, Alex Krizhevsky e Ilya Sutskever, en la Universidad de Toronto. Participaron en el Desafío de Reconocimiento Visual a Gran Escala de ImageNet, una competencia anual diseñada por la profesora de Stanford Fei-Fei Li para enfocar los esfuerzos del campo en torno a un objetivo simple: identificar el objeto principal en una imagen. Cada año, los equipos competidores probaban sus mejores modelos entre sí, a menudo superando las presentaciones del año anterior por no más de un solo punto porcentual en precisión. En 2012, AlexNet superó al ganador anterior por un 10 por ciento. Puede sonar como una mejora pequeña, pero para los investigadores de IA este tipo de avance puede marcar la diferencia entre una demostración de investigación similar a un juguete y un avance en la cúspide de un enorme impacto en el mundo real. El evento de ese año estuvo lleno de emoción. El artículo resultante de Hinton y sus colegas se convirtió en uno de los trabajos más citados en la historia de la investigación en IA.
• Mientras tanto, los investigadores ven cada vez más evidencia de "la hipótesis de escalado", que predice que el principal motor del rendimiento es, simplemente, ir a lo grande y seguir creciendo. Seguir creciendo estos modelos con más datos, más parámetros, más computación, y seguirán mejorando—potencialmente hasta el nivel de inteligencia humana y más allá. Nadie puede decir con certeza si esta hipótesis se mantendrá, pero hasta ahora al menos lo ha hecho. Creo que esto está destinado a continuar en un futuro previsible.
• La secuenciación del genoma de esta manera convierte la información biológica, el ADN, en texto en bruto: información que los humanos pueden leer y utilizar. La compleja estructura química se traduce en una secuencia de sus cuatro bases definitorias: A, T, C y G.
• Si bien la ley de Moore atrae justificada atención, menos conocido es lo que The Economist llama la curva de Carlson: el colapso épico en los costos de la secuenciación del ADN. Gracias a técnicas que mejoran constantemente, el costo de la secuenciación del genoma humano cayó de $1 mil millones en 2003 a menos de $1,000 para 2022. Es decir, el precio cayó un millón de veces en menos de veinte años, mil veces más rápido que la ley de Moore. Un desarrollo asombroso que se oculta a simple vista.
• Experimentos que una vez tomaban años son abordados por estudiantes de posgrado en semanas. Empresas como Odin te venderán un kit de ingeniería genética que incluye ranas y grillos vivos por $1,999, mientras que otro kit incluye una mini-centrífuga, una máquina de reacción en cadena de la polimerasa y todos los reactivos y materiales que necesitas para comenzar.
• Empresas como DNA Script están comercializando impresoras de ADN que entrenan y adaptan enzimas para construir de novo, o moléculas completamente nuevas. Esta capacidad ha dado origen al nuevo campo de la biología sintética: la habilidad de leer, editar y ahora escribir el código de la vida.
• En la década de 1960, los chips de computadora todavía se fabricaban en gran parte a mano, así como—hasta hace poco—la mayoría de la investigación biotecnológica seguía siendo un proceso manual, lento, impredecible y desordenado en todos los sentidos. Ahora, la fabricación de semiconductores es un proceso de fabricación a escala atómica hipereficiente que produce algunos de los productos más complejos del mundo. La biotecnología sigue una trayectoria similar, solo que en una fase mucho más temprana; los organismos pronto serán diseñados y producidos con la precisión y escala de los chips de computadora y el software de hoy.
• Altos Labs, que ha recaudado $3 mil millones, más financiamiento para startups que cualquier otra empresa biotecnológica previa, es una de las compañías que busca encontrar tecnologías efectivas contra el envejecimiento. Su científico jefe, Richard Klausner, argumenta: "Creemos que podemos retroceder el reloj" en la mortalidad humana. Enfocándose en técnicas de "programación de rejuvenecimiento", la compañía tiene como objetivo reiniciar el epigenoma, marcas químicas en el ADN que controlan los genes al activarlos y desactivarlos. A medida que envejecemos, estas se "invierten" a posiciones incorrectas. Este enfoque experimental tiene como objetivo devolverlas a su posición correcta, invirtiendo o deteniendo el proceso de envejecimiento.
• ¿Quieres hacer un detergente para lavar, un juguete nuevo o incluso cultivar una casa? Simplemente descarga la “receta” y presiona “comenzar”. En palabras de Elliot Hershberg, “¿Y si pudiéramos cultivar lo que queríamos localmente? ¿Y si nuestra cadena de suministro fuera solo biología?”.
• Las proteínas son los bloques de construcción de la vida. Tus músculos y sangre, hormonas y cabello, de hecho, el 75 por ciento de tu peso corporal seco: todo proteínas. Están en todas partes, adoptando cada forma concebible, realizando innumerables tareas vitales, desde los cordones que mantienen tus huesos unidos, hasta los ganchos en los anticuerpos utilizados para atrapar visitantes no deseados. Entiende las proteínas, y has dado un gran salto adelante en la comprensión—y dominio—de la biología.
• La pura complejidad de la biología abre vastos tesoros de datos, como todas esas proteínas, casi imposibles de analizar utilizando técnicas tradicionales. Una nueva generación de herramientas se ha vuelto rápidamente indispensable como resultado. Equipos están trabajando en productos que generarán nuevas secuencias de ADN utilizando solo instrucciones en lenguaje natural. Los modelos transformadores están aprendiendo el lenguaje de la biología y la química, redescubriendo relaciones y significados en secuencias largas y complejas ilegibles para la mente humana. Los LLMs ajustados finamente con datos bioquímicos pueden generar candidatos plausibles para nuevas moléculas y proteínas, secuencias de ADN y ARN. Predicen la estructura, función o propiedades de reacción de compuestos en simulación antes de que sean verificadas en un laboratorio. El espacio de aplicaciones y la velocidad a la que se pueden explorar solo están acelerando.
• Algunos científicos están comenzando a investigar maneras de conectar directamente las mentes humanas a sistemas computacionales. En 2019, electrodos implantados quirúrgicamente en el cerebro permitieron a un hombre completamente paralizado con ELA en etapa avanzada deletrear las palabras "AMO A MI HIJO GENIAL". Empresas como Neuralink están trabajando en tecnología de interfaz cerebral que promete conectarnos directamente con las máquinas. En 2021, la empresa insertó tres mil electrodos en forma de filamento, más delgados que un cabello humano, que monitorean la actividad neuronal, en el cerebro de un cerdo. Pronto esperan comenzar ensayos en humanos de su implante cerebral N1, mientras que otra empresa, Synchron, ya ha iniciado ensayos en humanos en Australia.
• Los científicos de una startup llamada Cortical Labs incluso han creado un tipo de cerebro en un recipiente (un grupo de neuronas cultivadas in vitro) y lo han enseñado a jugar Pong. Probablemente no pasará mucho tiempo antes de que "lazos" neurales hechos de nanotubos de carbono nos conecten directamente al mundo digital.
• Si bien es una tecnología aún en sus inicios, las implicaciones son enormes cuando la computación cuántica se materialice. Su principal atractivo es que cada qubit adicional duplica el poder de cómputo total de una máquina. Si comienzas a añadir qubits, se vuelve exponencialmente más poderosa. De hecho, un número relativamente pequeño de partículas podría tener más poder de cómputo que si todo el universo se convirtiera en una computadora clásica. Es el equivalente computacional de pasar de una película plana, en blanco y negro, a color y tres dimensiones, desatando un mundo de posibilidades algorítmicas.
• Las nanomáquinas funcionarían a velocidades muy por encima de lo que podemos imaginar en nuestra escala, entregando resultados extraordinarios: un nanomotor a escala atómica, por ejemplo, podría rotar cuarenta y ocho mil millones de veces por minuto. Aumentado de escala, podría alimentar un Tesla con un material equivalente en volumen a unas doce granos de arena. Este es un mundo de estructuras etéreas hechas de diamante, trajes espaciales que se adhieren y protegen el cuerpo en todos los entornos, un mundo donde los compiladores pueden crear cualquier cosa a partir de una materia prima básica. Un mundo, en resumen, donde cualquier cosa puede convertirse en cualquier cosa con la manipulación atómica adecuada. El sueño del universo físico convertido en una plataforma completamente maleable, el juguete de pequeños y diestros nanobots o replicadores sin esfuerzo, sigue siendo, al igual que la súper inteligencia, dominio de la ciencia ficción. Es una tecno-fantasía, a muchas décadas de distancia, pero que se irá enfocando gradualmente a medida que se despliegue la próxima ola.
• Más citas significan más prestigio, credibilidad y financiamiento para la investigación. Los investigadores junior son especialmente propensos a ser evaluados—y contratados—por su historial de publicaciones, visible públicamente en plataformas como Google Scholar. Además, hoy en día, los artículos se anuncian en Twitter y a menudo se escriben con la influencia de las redes sociales en mente. Están diseñados para ser llamativos y atraer la atención.
• Y sin embargo, también fue LeCun quien dijo que AlphaGo era imposible solo unos días antes de que hiciera su primer gran avance. Eso no le quita mérito; solo muestra que nadie puede estar seguro de nada en la frontera de la investigación.
• Los ingenieros a menudo tienen una mentalidad particular. El director de Los Álamos, J. Robert Oppenheimer, era un hombre de altos principios. Pero sobre todo, era un solucionador de problemas impulsado por la curiosidad. Considera estas palabras, que a su manera son tan escalofriantes como su famosa cita del Bhagavad Gita (al ver la primera prueba nuclear, recordó algunas líneas de las escrituras hindúes: “Ahora me he convertido en la Muerte, el destructor de mundos”): “Cuando ves algo que es técnicamente dulce, lo haces, y discutes sobre lo que hay que hacer al respecto solo después de haber tenido tu éxito técnico.” Fue una actitud compartida por su colega en el Proyecto Manhattan, el brillante y polifacético húngaro estadounidense John von Neumann. “Lo que estamos creando ahora,” dijo, “es un monstruo cuyo influjo va a cambiar la historia, siempre que quede alguna historia, aún así sería imposible no verlo hasta el final, no solo por razones militares, sino que también sería poco ético desde el punto de vista de los científicos no hacer lo que saben que es factible, sin importar las terribles consecuencias que pueda tener.”

Escenarios Futuros e Implicaciones

• Ninguna ola anterior ha crecido tan rápidamente, pero el patrón histórico, no obstante, se repite. Al principio parece imposible e inimaginable. Luego parece inevitable. Y cada ola crece aún más grande y más fuerte.
• En las próximas décadas, una nueva ola de tecnología nos obligará a enfrentar las preguntas más fundamentales que nuestra especie haya enfrentado jamás. ¿Queremos editar nuestros genomas para que algunos de nosotros podamos tener hijos con inmunidad a ciertas enfermedades, o con más inteligencia, o con el potencial de vivir más tiempo? ¿Estamos comprometidos a mantener nuestro lugar en la cima de la pirámide evolutiva, o permitiremos la aparición de sistemas de IA que sean más inteligentes y capaces de lo que jamás podríamos ser? ¿Cuáles son las consecuencias no intencionadas de explorar preguntas como estas? Ilustran una verdad clave sobre el Homo technologicus en el siglo XXI. Durante la mayor parte de la historia, el desafío de la tecnología consistía en crear y desatar su poder. Eso ahora ha cambiado: el desafío de la tecnología hoy en día es contener su poder desatado, asegurando que continúe sirviéndonos a nosotros y a nuestro planeta. Ese desafío está a punto de escalar de manera decisiva.
• En última instancia, en sus formas más dramáticas, la próxima ola podría significar que la humanidad ya no estará en la cima de la cadena alimentaria. Homo technologicus podría verse amenazada por su propia creación. La verdadera pregunta no es si la ola está viniendo. Está claro que sí; solo hay que mirar y ya se puede ver formándose. Dada riesgos como estos, la verdadera pregunta es por qué es tan difícil verlo como algo diferente a inevitable.
• Si la centralización y la descentralización suenan como si estuvieran en directa contradicción, es por una buena razón: lo están. Entender el futuro significa manejar múltiples trayectorias conflictivas a la vez. La próxima ola lanza inmensas corrientes centralizadoras y descentralizadoras al mismo tiempo. Ambas estarán en juego al mismo tiempo. Cada individuo, cada negocio, cada iglesia, cada organización sin fines de lucro, cada nación, eventualmente tendrá su propia IA y, en última instancia, su propia capacidad en biotecnología y robótica. Desde un individuo sentado en su sofá hasta las organizaciones más grandes del mundo, cada IA buscará alcanzar los objetivos de su propietario. Aquí radica la clave para entender la próxima ola de contradicciones, una ola llena de colisiones.
• Vamos al supermercado y esperamos que esté repleto de frutas y verduras frescas. Esperamos que se mantenga fresco en verano, cálido en invierno. A pesar de la turbulencia constante, asumimos que las cadenas de suministro y las posibilidades del siglo XXI son tan robustas como un antiguo ayuntamiento. Todas las partes más extremas de nuestra existencia parecen absolutamente banales, y así, en su mayoría, llevamos nuestras vidas como si pudieran continuar indefinidamente. La mayoría de los que nos rodean, incluyendo a nuestros líderes, hacen lo mismo. Y sin embargo, nada dura para siempre. A lo largo de la historia, los colapsos sociales son legión: desde la antigua Mesopotamia hasta Roma, los mayas hasta la Isla de Pascua, una y otra vez no es solo que las civilizaciones no duran; es que la insostenibilidad parece estar incorporada. Las civilizaciones que colapsan no son la excepción; son la norma. Una encuesta de sesenta civilizaciones sugiere que duran alrededor de cuatrocientos años en promedio antes de desmoronarse. Sin nuevas tecnologías, alcanzan límites duros al desarrollo—en energía disponible, en alimentos, en complejidad social—que los llevan a caer estrepitosamente.
• Un moratorio sobre la tecnología no es una salida; es una invitación a otro tipo de distopía, a otro tipo de catástrofe. Incluso si fuera posible, la idea de detener la ola que se avecina no es un pensamiento reconfortante. Mantener, y mucho menos mejorar, los estándares de vida necesita tecnología. Prevenir un colapso necesita tecnología. Los costos de decir que no son existenciales. Y, sin embargo, cada camino desde aquí conlleva graves riesgos y desventajas. Este es el gran dilema.
• La contención de la ola que se avecina no es, creo, posible en nuestro mundo actual. Lo que estos pasos podrían hacer, sin embargo, es cambiar las condiciones subyacentes. Empujar hacia adelante el statu quo para que la contención tenga una oportunidad. Debemos hacer todo esto con la conciencia de que podría fracasar, pero que es nuestra mejor oportunidad para construir un mundo donde la contención—y el florecimiento humano—sean posibles. No hay garantías aquí, ni conejos sacados de sombreros. Cualquiera que espere una solución rápida, una respuesta inteligente, se va a decepcionar. Al enfrentarnos al dilema, nos quedamos en la misma posición tan humanamente conocida como siempre: dándolo todo y esperando que funcione. Así es como creo que podría—solo podría—ajustarse.