Possible AI Futures Observatorio Humano
📐 Ciencia Abierta y Transparente

Señales, Método de Ponderación y Panel de Expertos

Entender el porvenir de la inteligencia artificial no requiere euforia desmedida ni resignación fatalista. Exige lo que la ciencia siempre ha demandado: observación honesta de los hechos, hipótesis prudentes y modelos matemáticos abiertos al escrutinio público.

1. Fundamentos Epistémicos y Prudencia

Nuestras cifras no son predicciones infalibles. Representan una distribución de probabilidad calibrada que refleja el estado actual de las evidencias en capacidad técnica, economía laboral, seguridad y gobernanza.

Espectro Exhaustivo (Suma = 100%)

Los cinco niveles componen un conjunto mutuamente excluyente y exhaustivo. La suma total siempre es exactamente el 100%: Σ P(Ni) = 100%. Cuando los datos elevan la probabilidad de un horizonte, otro debe ceder.

Sin Dogmas ni Ceros Absolutos

Rechazamos la certeza absoluta. Mantenemos un suelo estricto (P(Ni) ≥ 2.0%) para evitar descartar prematuramente cualquier posibilidad plausible o darla por inevitable.

Evidencias frente a Ruido Mediático

Las opiniones en redes sociales o las notas de prensa no alteran nuestras cifras. Solo las evaluaciones técnicas reproducibles, registros oficiales de inversión energética/cómputo, estadísticas laborales públicas o leyes promulgadas activan cambios.

Al Servicio de la Decisión Humana

Este observatorio no es un ejercicio académico pasivo. Su propósito es dotar a las personas de criterio claro para orientar sus profesiones, familias y comunidades con antelación.

2. Ponderación en Dos Niveles y Capa de Expertos

El motor de cálculo distingue con claridad entre las Señales Empíricas Primarias (evaluaciones de laboratorio, contratos de infraestructura, datos oficiales de empleo y normativas aprobadas) y nuestra Capa Secundaria de Expertos (análisis rigurosos de investigadores técnicos, economistas empíricos y especialistas sociotécnicos con un ámbito claramente delimitado).

// 1. Cálculo de Impacto por Señal en Dos Niveles
Δi = ∑ [ Dirección(Señal, Ni) × PesoRelevancia(1..5) × IndiceConfianza(0.5..1.0) × MultiplicadorCapa ]
• Nivel 1 (Señales Empíricas Primarias): MultiplicadorCapa = 1.0 (Ponderación completa)
• Nivel 2 (Capa Curada de Expertos): MultiplicadorCapa = 0.35 (Ponderación amortiguada, máx. ~35% de influencia relativa)
// 2. Actualización Bayesiana Bruta
P'bruta(Ni) = Pprevia(Ni) + Δi
// 3. Límite de Suelo y Normalización a 100%
P'acotada(Ni) = max(2.0, P'bruta(Ni))
Pfinal(Ni) = [ P'acotada(Ni) / ∑ P'acotada ] × 100

Por qué amortiguamos la opinión experta (0.35x): Incluso los investigadores más destacados pueden verse condicionados por sesgos de grupo o entusiasmos temporales. Al aplicar un factor de 0.35x aseguramos que el criterio cualificado ayude a matizar las probabilidades, pero nunca eclipse a los datos empíricos tangibles (inversiones reales en cómputo, contratos de energía, variaciones objetivas de empleo y marcos legislativos vigentes).

Formar parte del panel no constituye una señal. Añadir una persona, institución, libro o documental no modifica la distribución. Cualquier actualización ponderada exige una fuente exacta y fechada, una afirmación transparente, límites de ámbito y una revisión de fuentes vinculadas. Una institución y sus miembros comparten un máximo de 0.35x cuando se apoyan en el mismo trabajo.

3. Panel Curado de Expertos

Capa Nivel 2 • 21 Entradas Verificadas

Seleccionamos rigurosamente las fuentes cualificadas. Excluimos comentaristas sensacionalistas, portavoces partidistas, fuentes anónimas y la notoriedad documental sin trabajo sustantivo actual. Los especialistas sociotécnicos se incorporan solo dentro de ámbitos y horizontes declarados. Los enlaces y las posibles relaciones institucionales quedan visibles para facilitar la auditoría.

Prof. Geoffrey Hinton

Investigación

Universidad de Toronto / Premio Nobel de Física / Premio Turing

Ámbito principal: Escalado de redes neuronales de frontera, comparación entre computación biológica y digital, riesgos existenciales y catastróficos

Criterio de inclusión: Pionero del aprendizaje profundo cuyas advertencias se centran en la posibilidad de que la inteligencia digital supere los límites biológicos y en la dificultad de controlar sistemas orientados a objetivos.

Prof. Yann LeCun

Investigación

Meta / NYU / Premio Turing

Ámbito principal: Modelos del mundo, arquitectura predictiva de incrustación conjunta (JEPA) e IA fundacional de código abierto

Criterio de inclusión: Pionero del aprendizaje profundo que promueve los modelos del mundo y la descentralización mediante código abierto. Aporta equilibrio al destacar los límites arquitectónicos de los modelos autorregresivos de lenguaje.

Sir Demis Hassabis

Investigación

Google DeepMind / Premio Nobel de Química

Ámbito principal: Arquitecturas de IAG de frontera, descubrimiento científico con IA y avances en biología y materiales

Criterio de inclusión: Constructor directo de sistemas de frontera de referencia, centrado en acelerar el descubrimiento científico y establecer evaluaciones antes del despliegue.

Dario Amodei

Investigación

Anthropic, director ejecutivo y cofundador

Ámbito principal: Leyes de escalado de frontera, interpretabilidad mecanicista y mitigación de riesgos biológicos y de ciberseguridad

Criterio de inclusión: Dirige un laboratorio de frontera que publica análisis detallados sobre escalado e investigación verificable de interpretabilidad, combinando el avance de capacidades con la gobernanza de riesgos catastróficos.

Ilya Sutskever

Investigación

Safe Superintelligence, SSI / Exdirector científico de OpenAI

Ámbito principal: Alineación de sistemas sobrehumanos, avances algorítmicos fundamentales y arquitecturas de frontera centradas en seguridad

Criterio de inclusión: Arquitecto central de paradigmas decisivos de escalado, dedicado ahora a la alineación técnica y a la búsqueda de una superinteligencia demostrablemente segura.

Prof. Yoshua Bengio

Investigación

Mila / Universidad de Montreal / Consejo Científico de la ONU / Premio Turing

Ámbito principal: Investigación de seguridad de frontera, tratados internacionales de gobernanza y arquitecturas de IA sin fines de lucro

Criterio de inclusión: Pionero del aprendizaje profundo centrado en arquitecturas de seguridad sin fines de lucro, sometidas a inspección internacional, y en evitar una concentración peligrosa.

Dr. Andrej Karpathy

Investigación

Eureka Labs / Exdirector de IA en OpenAI y Tesla

Ámbito principal: Arquitectura práctica de modelos de frontera, flujos de agentes autónomos y educación nativa en IA

Criterio de inclusión: Educador técnico y profesional excepcional que ofrece evaluaciones claras y sin exageraciones sobre las capacidades actuales de los agentes y los obstáculos prácticos de ingeniería.

Prof. Andrew Ng

Investigación

Universidad de Stanford / DeepLearning.AI / AI Fund

Ámbito principal: Flujos de trabajo con agentes, adopción empresarial, democratización mediante código abierto y utilidad práctica

Criterio de inclusión: Educador y constructor de IA de alcance mundial que destaca patrones iterativos con agentes, despliegues específicos por sector y mejoras económicas prácticas.

Prof. Fei-Fei Li

Investigación

Instituto de IA Centrada en las Personas de Stanford, HAI / World Labs

Ámbito principal: IA centrada en las personas, inteligencia espacial, infraestructura pública de cómputo e IA sanitaria

Criterio de inclusión: Creadora de ImageNet y defensora de la IA centrada en las personas, de una infraestructura pública de cómputo democrática y de sistemas que amplíen las capacidades de los profesionales.

Dr. Sebastian Raschka

Investigación

Ahead of AI / Lightning AI

Ámbito principal: Arquitecturas abiertas de modelos de lenguaje, eficiencia del ajuste, compresión y evaluación empírica

Criterio de inclusión: Autor técnico e investigador destacado que publica explicaciones transparentes y respaldadas por código sobre entrenamiento, cuantización y eficiencia arquitectónica.

Prof. Ethan Mollick

Investigación

Wharton, Universidad de Pensilvania / One Useful Thing

Ámbito principal: Productividad laboral empírica, ampliación del trabajo cognitivo y adopción organizativa práctica

Criterio de inclusión: Investigador pionero en experimentos controlados sobre la interacción entre personas e IA, con datos directos sobre productividad laboral y fricciones de transición.

Prof. Daron Acemoglu & Simon Johnson

Investigación

Departamento de Economía del MIT / NBER / Premio Nobel de Economía

Ámbito principal: Desplazamiento laboral macroeconómico, distribución salarial y concentración de rentas tecnológicas

Criterio de inclusión: Economistas institucionales de referencia que miden si la automatización amplía el trabajo humano o concentra el capital.

Prof. Shannon Vallor

Investigación

Universidad de Edimburgo / Centre for Technomoral Futures

Ámbito principal: Filosofía tecnomoral, capacidad moral humana y virtud práctica en sociedades automatizadas

Criterio de inclusión: Filósofa destacada que estudia el florecimiento humano, la sabiduría práctica y la conservación de la capacidad de decisión en un mundo automatizado.

Prof. Arvind Narayanan & Sayash Kapoor

Investigación

Centro de Política de Tecnologías de la Información de Princeton / AI Snake Oil

Ámbito principal: Auditorías empíricas de capacidad, verificación de promesas comerciales y límites de adopción institucional

Criterio de inclusión: Voz esencial de contraste que analiza dónde funcionan de forma fiable los sistemas de IA y dónde las afirmaciones superan la realidad técnica.

Dan Hendrycks & CAIS Research

Investigación

Center for AI Safety / Universidad de California en Berkeley

Ámbito principal: Evaluaciones empíricas de seguridad, taxonomías de riesgo catastrófico y alineación técnica

Criterio de inclusión: Autor de conjuntos de evaluación de seguridad y razonamiento de uso amplio, entre ellos MMLU, MATH y APPS, que permiten medir fallos complejos.

Epoch AI Research Team

Investigación

Epoch AI, equipo de investigación

Ámbito principal: Tendencias de cómputo, escalado de hardware y métricas de eficiencia algorítmica

Criterio de inclusión: Seguimiento empírico de referencia sobre cómputo de entrenamiento, evolución del coste del hardware e hitos de eficiencia de los modelos.

METR (Model Evaluation & Threat Research)

Investigación

Instituto independiente de seguridad, equipo de Beth Barnes

Ámbito principal: Evaluaciones de capacidad de agentes autónomos, riesgos cibernéticos y estudios reproducibles de equipo rojo

Criterio de inclusión: Realiza pruebas empíricas para determinar si los modelos de frontera pueden replicarse, engañar o explotar redes de forma autónoma.

Carl Shulman & Paul Christiano

Investigación

Alignment Research Center, ARC / Open Philanthropy

Ámbito principal: Pronósticos de capacidad a largo plazo, alineación mecanicista y coordinación social

Criterio de inclusión: Desarrollan modelos técnicos detallados sobre la velocidad de automatización del trabajo cognitivo y los posibles mecanismos de gobernanza.

Tristan Harris & Aza Raskin

Experiencia sociotécnica acotada

Center for Humane Technology

Ámbito principal: Incentivos de despliegue de la IA, sistemas persuasivos, efectos psicológicos, capacidad de decisión humana y concentración de poder

Criterio de inclusión: Analistas sociotécnicos cuya hoja de ruta sobre IA relaciona el diseño y los incentivos de despliegue con la seguridad, los derechos, el trabajo, el bienestar y la distribución del poder. Esta entrada cuenta como una sola voz vinculada a CHT, no como dos votos independientes.
N2 N3 N4 N5
Perspectiva y posibles conflictos: CHT es una organización sin fines de lucro que promueve incentivos tecnológicos más seguros. Harris y Raskin pertenecen al mismo grupo institucional, por lo que su influencia conjunta se limita en lugar de contarse dos veces.

Dr. Cathy O'Neil

Responsabilidad algorítmica acotada

ORCAA

Ámbito principal: Auditorías algorítmicas, gobernanza de la IA, impacto discriminatorio, rendición de cuentas y decisiones automatizadas de alto riesgo

Criterio de inclusión: Auditora de algoritmos y sistemas de IA utilizados en empleo, salud, decisiones predictivas e IA generativa. Su ámbito adecuado son los daños documentados del despliegue y la gobernanza en los niveles 2, 3 y 4, no la predicción de capacidades de frontera.
N2 N3 N4
Perspectiva y posibles conflictos: ORCAA es una consultora comercial que realiza auditorías algorítmicas y asesora en gobernanza. Ese acceso directo a sistemas reales es valioso, pero la relación comercial debe permanecer visible.

Dr. Guillaume Chaslot

Integridad informativa acotada

AlgoTransparency / asesor del Center for Humane Technology

Ámbito principal: Sistemas de recomendación, integridad informativa, manipulación algorítmica, transparencia e incentivos de las plataformas

Criterio de inclusión: Investigador de IA y antiguo ingeniero de plataformas con experiencia técnica directa en sistemas de recomendación. Su ámbito son los efectos sociales e informativos medibles de los sistemas de clasificación, sobre todo en los niveles 2 y 3, no la predicción general de la IA de frontera.
N2 N3
Perspectiva y posibles conflictos: Fundador de un proyecto de transparencia algorítmica y antiguo ingeniero de Google y Microsoft. Esa experiencia aporta conocimiento de los incentivos de las plataformas, pero no constituye por sí sola evidencia neutral.

4. Recursos Institucionales de Investigación

5 Recursos • Sin Ponderación Automática

Estas organizaciones aportan investigación, auditorías, marcos de análisis y seguimiento. Se muestran por separado de la Capa de Expertos. Un perfil institucional nunca modifica las probabilidades y cualquier señal futura debe evaluarse como una fuente concreta.

Center for Humane Technology

Recurso sin ponderación

Recurso de políticas públicas sin fines de lucro

Analiza cómo la IA y la tecnología persuasiva afectan el bienestar, la capacidad democrática, la seguridad, los derechos, el trabajo y la concentración de poder. Su hoja de ruta es un marco útil, no una señal empírica.

N2 N3 N4 N5
Perspectiva y posibles conflictos: Promueve una tecnología más humana y unos incentivos más seguros.

ORCAA

Recurso sin ponderación

Firma de auditoría algorítmica y gobernanza

Realiza auditorías y trabajos de gobernanza sobre algoritmos e IA utilizados en contextos de alto riesgo. Es útil para estudiar riesgos de despliegue y métodos de rendición de cuentas.

N2 N3 N4
Perspectiva y posibles conflictos: Firma comercial de auditoría y asesoría. Las relaciones con clientes deben declararse cuando se utilice un trabajo concreto.

AlgoTransparency

Recurso sin ponderación

Recurso sobre transparencia algorítmica e integridad informativa

Investiga cómo los algoritmos de recomendación condicionan la información pública y la atención. Es útil para analizar incentivos de plataforma y efectos medibles de los sistemas informativos.

N2 N3
Perspectiva y posibles conflictos: Proyecto de transparencia fundado por un antiguo ingeniero de plataformas.

The Consilience Project / Civilization Research Institute

Recurso sin ponderación

Biblioteca de pensamiento sistémico y comprensión pública

Publica análisis extensos sobre cambio tecnológico, riesgos civilizatorios, comprensión pública y coordinación social. Conviene usarlo como fuente curada de perspectivas porque publica de manera irregular y con autoría institucional.

N2 N3 N4
Perspectiva y posibles conflictos: Análisis sistémico con una misión explícita y autoría institucional colectiva.

One Project

Recurso sin ponderación

Recurso sobre democracia económica y prosperidad compartida

Desarrolla alternativas institucionales para distribuir el poder y la prosperidad a medida que la IA transforma el trabajo y la producción. Ayuda a evaluar los caminos positivos de los niveles 4 y 5 sin confundir promoción con evidencia.

N2 N4 N5
Perspectiva y posibles conflictos: Organización sin fines de lucro que promueve la democracia económica y la prosperidad compartida.

5. Datos Públicos y Acceso Abierto

Toda nuestra información se almacena en formatos estándar y públicos dentro de nuestro repositorio para garantizar la máxima transparencia:

/data/distribution_es.json

Registro de probabilidades normalizadas, deltas y conclusiones.

Ver JSON ↗
/data/signals_es.json

Registro histórico de señales empíricas auditadas y ponderadas.

Ver JSON ↗
/data/experts.json

Panel de 21 expertos con ámbitos, fuentes vinculadas, posibles conflictos y recursos institucionales sin ponderación.

Ver JSON ↗
/data/perspectives_es.json

Biblioteca editorial en español con fuentes primarias y horizontes relacionados.

Ver JSON ↗
/data/editorial_reviews_es.json

Auditoría separada de publicaciones expertas, institucionales y editoriales, con aplazamientos e impacto de calibración.

Ver JSON ↗