📚 Biblioteca de Ideas Clave
En un panorama dominado por titulares fugaces y debates polarizados, el conocimiento sólido surge del análisis reposado. Esta sección recopila libros fundamentales, investigaciones técnicas rigurosas y ensayos de referencia para reflexionar con criterio propio sobre los cinco horizontes posibles.
Capa editorial, no evidencia automática. Una perspectiva puede mejorar la interpretación o la preparación práctica, pero incorporarla no modifica las cinco probabilidades. Solo una señal empírica revisada por separado o un juicio experto fechado puede entrar en el motor de calibración.
Libro y marco académico
Título original: Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity
Por Daron Acemoglu y Simon Johnson • Departamento de Economía del MIT (2024 / Referencia fundamental 2026)
Un análisis económico fundamental que demuestra que la dirección del progreso tecnológico no es una ley natural inevitable, sino una elección social. Expone cómo la automatización sin contrapesos democráticos tiende históricamente a concentrar la riqueza, y describe las políticas públicas necesarias para que los dividendos tecnológicos se compartan con toda la sociedad.
Por qué es relevante para el observatorio:
Aporta el marco histórico esencial para entender por qué surgen el Nivel 2 (Tecnofeudalismo) y el Nivel 3 (Transición Turbulenta) a menos que se diseñen deliberadamente contrapesos institucionales.
Ensayo técnico y libro
Título original: AI Snake Oil: What Artificial Intelligence Can and Cannot Do
Por Arvind Narayanan y Sayash Kapoor • Universidad de Princeton (2024 / Serie continua 2026)
Una deconstrucción rigurosa y accesible que distingue las capacidades reales de la IA frente al bombo publicitario. Diferencia entre modelos de percepción generativa, toma de decisiones automatizada en sistemas sociales y puntuación predictiva, explicando por qué muchas aplicaciones corporativas fallan fuera de los entornos de laboratorio.
Por qué es relevante para el observatorio:
Un antídoto imprescindible contra el sensacionalismo que ayuda a distinguir los saltos técnicos genuinos de la exageración comercial.
Informe de investigación
Título original: The AI Transition: Navigating Labor and Capital in a Computational Age
Por Consorcio de Investigación Epoch AI • Epoch AI (15 de julio de 2026)
Una proyección detallada sobre la escala del cómputo, las necesidades energéticas y la velocidad económica de la destilación algorítmica hacia 2035. Analiza la competencia entre la centralización de infraestructura y la eficiencia de los modelos abiertos.
Por qué es relevante para el observatorio:
Aporta datos empíricos sobre el escalado de hardware y la compresión de modelos, informando directamente la tensión entre el oligopolio en la nube y la abundancia descentralizada.
Ensayo filosófico y conferencia
Título original: Technology and the Virtues: A Philosophical Guide to a Future Worth Wanting
Por Prof. Shannon Vallor • Edinburgh Futures Institute (2025 / Serie magistral 2026)
Examina cómo preservar y profundizar el carácter humano, la sabiduría práctica y la capacidad de decisión ética en una era automatizada. Sostiene que prepararse ante la tecnología avanzada exige cultivar virtudes genuinamente humanas como el cuidado relacional, la humildad y el valor reflexivo.
Por qué es relevante para el observatorio:
Inspira directamente nuestra Guía de Preparación al concebir la preparación no solo como supervivencia económica, sino como el cultivo consciente del florecimiento humano.
Evaluación técnica e informe pericial
Título original: Autonomous Replication and Cyber Capabilities in Frontier Models
Por Grupo de Investigación METR • Model Evaluation & Threat Research (2 de agosto de 2026)
Evaluaciones de laboratorio rigurosas sobre modelos de frontera que intentan ejecutar tareas autónomas complejas de varios pasos: programación, depuración, obtención de credenciales y autoalojamiento en entornos controlados.
Por qué es relevante para el observatorio:
La principal referencia técnica para evaluar objetivamente si los modelos de frontera pueden eludir la contención humana.
Libro y marco de gestión empírica
Título original: Co-Intelligence: Living and Working with AI
Por Prof. Ethan Mollick • Wharton School, Universidad de Pensilvania (2024 / Referencia fundamental 2026)
Una exploración empírica sobre la colaboración entre humanos e inteligencia artificial en entornos laborales. Argumenta que la IA actúa como una mente no humana e impredecible en lugar de un software determinista, y establece principios prácticos de trabajo: integrar la IA en los procesos, mantener el criterio humano en el bucle y tratar a los modelos como colaboradores talentosos pero falibles.
Por qué es relevante para el observatorio:
Aporta un marco pragmático y basado en la observación para navegar la transición laboral sin caer en el fatalismo ni en la adopción acrítica.
Manual académico y taxonomía integral
Título original: An Introduction to AI Safety, Ethics, and Society
Por Dan Hendrycks, Mantas Mazeika y Thomas Woodside • Center for AI Safety (CAIS) (2025 / Edición de referencia 2026)
Un libro de texto universitario riguroso que unifica conceptos de seguridad técnica (juego de especificaciones, desgeneralización de objetivos, interpretabilidad, robustez) con gobernanza sociotécnica y modelización de riesgos catastróficos. Establece marcos formales para evaluar fallos sistémicos.
Por qué es relevante para el observatorio:
Funciona como el texto de referencia para analizar riesgos existenciales, estructurales e institucionales con claridad matemática y empírica.
Marco institucional
Título original: The AI Roadmap: How We Ensure AI Serves Humanity
Por Center for Humane Technology • Center for Humane Technology (Verificado el 18 de agosto de 2026)
Un marco de siete principios para orientar la IA hacia la seguridad, el deber de cuidado, el bienestar humano, el trabajo con sentido, los derechos, los límites internacionales y un reparto equilibrado del poder. Aborda el diseño técnico y la economía política como partes de un mismo desafío.
Por qué es relevante para el observatorio:
Ofrece un mapa claro de las decisiones sociales que podrían llevar una misma tecnología hacia la pérdida de control, la concentración, la colaboración regulada o una mayor capacidad humana. Es un marco editorial y no modifica las probabilidades por sí solo.
Libro y marco institucional
Título original: The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power
Por Shoshana Zuboff • Autora y teórica social (15 de enero de 2019)
Un análisis amplio de cómo las plataformas digitales convirtieron la experiencia humana en datos destinados a predecir y orientar la conducta. Zuboff describe una nueva concentración de poder privado capaz de debilitar la soberanía individual y la supervisión democrática.
Por qué es relevante para el observatorio:
Aporta un vocabulario fundamental para el Nivel 2 y para comprender la disputa institucional entre extracción, control público y capacidad de decisión humana. Orienta la interpretación, pero no constituye una señal empírica actual.
Ensayo técnico y filosófico
Título original: There Is No A.I.
Por Jaron Lanier • Informático y autor (20 de abril de 2023)
Lanier sostiene que presentar la IA como una inteligencia independiente oculta el trabajo, las decisiones y los datos humanos que sostienen estos sistemas. Propone la dignidad de los datos y unas instituciones más responsables como alternativa a la mitificación de las máquinas.
Por qué es relevante para el observatorio:
Ayuda a precisar el papel de la capacidad de decisión y la propiedad humanas. También permite distinguir una capacidad técnica realmente autónoma de decisiones institucionales que se atribuyen con demasiada facilidad a una máquina abstracta.
Ensayo de pensamiento sistémico
Título original: Technology is Not Values Neutral: Ending the Reign of Nihilistic Design
Por The Consilience Project • Civilization Research Institute (26 de junio de 2022)
Un análisis sistémico de cómo las tecnologías incorporan valores mediante sus incentivos, interfaces y efectos no previstos. Sostiene que los ecosistemas tecnológicos transforman la conducta y las instituciones aunque ningún diseñador haya buscado por sí solo el resultado final.
Por qué es relevante para el observatorio:
Explica por qué el rumbo de la IA no puede deducirse únicamente de su capacidad. El diseño, los incentivos empresariales y la respuesta institucional pueden orientar una misma tecnología hacia la concentración, el desorden o la colaboración regulada.
Marco económico e institucional
Título original: The Architecture of Abundance: A Path to a Democratic Economy
Por Equipo de One Project • One Project (2021)
Una propuesta de instituciones económicas que distribuyen el poder de decisión, coordinan recursos comunes y reducen la dependencia de una propiedad concentrada. Presenta una alternativa democrática concreta a los mercados digitales extractivos.
Por qué es relevante para el observatorio:
Desarrolla una vía institucional más concreta para los niveles 4 y 5 y ofrece un contramodelo al Nivel 2. Sus propuestas son ideas normativas de diseño, no evidencia de que la abundancia vaya a materializarse.
Criterio de Inclusión y Selección
Esta biblioteca se actualiza periódicamente durante nuestro ciclo de análisis. Priorizamos trabajos con respaldo técnico comprobable, publicaciones con revisión por pares o reflexiones humanísticas de profundo rigor ético y filosófico.