Leopold Aschenbrenner es un economista afiliado al Instituto de Prioridades Globales de la Universidad de Oxford, y anteriormente trabajó en la Fundación Forethought, investigando el crecimiento económico a largo plazo y el riesgo existencial. Antes de eso, Leopold se graduó como valedictorian en Columbia, donde estudió matemáticas, estadística y economía.
Recientemente sorprendió a los medios y los especialistas con la publicación de un documento titulado "Situational Awareness", en el que ofrece una visión detallada sobre el futuro cercano de la inteligencia artificial (IA), específicamente la inteligencia general artificial (AGI) y la superinteligencia.
Aschenbrenner argumenta que estamos en el umbral de avances significativos en IA que podrían transformar drásticamente la sociedad y la economía mundial. Con una perspectiva informada por años de experiencia y discusión con líderes en el campo, el autor subraya que, aunque muchas personas aún no comprenden completamente el impacto inminente de la IA, quienes posean una "conciencia situacional" anticipan una revolución tecnológica inminente. San Francisco, un centro neurálgico de innovación tecnológica, es donde se percibe primero esta transformación, y los desarrollos en IA se están acelerando rápidamente.
El autor destaca cómo hemos pasado de modelos de IA que apenas podían identificar imágenes simples a sistemas como GPT-4, capaces de escribir código, resolver problemas matemáticos complejos y superar a la mayoría de los estudiantes de secundaria en exámenes. Este progreso no ha sido un salto aislado, sino el resultado de tendencias consistentes en el aumento de la capacidad computacional y las eficiencias algorítmicas. Aschenbrenner sugiere que, si estas tendencias continúan, para 2027 podríamos ver modelos de IA que realicen trabajos complejos como investigadores o ingenieros de IA, lo que él llama "la llegada plausible de la AGI".
La transición de AGI a superinteligencia es otro tema central del documento. Aschenbrenner predice que una vez alcanzado el nivel de inteligencia humana, la IA no se detendrá ahí. Con cientos de millones de AGIs automatizando la investigación en IA, podríamos ver una compresión de décadas de progreso algorítmico en un solo año. Esto resultaría en sistemas de IA superinteligentes con capacidades y riesgos dramáticos, generando un escenario de poder y peligro sin precedentes.
Sin embargo, este progreso viene con desafíos significativos. La carrera hacia la construcción de clústeres de computación de un trillón de dólares es uno de ellos. Aschenbrenner describe cómo la industria de la IA está movilizando recursos a una escala nunca vista, con inversiones colosales en GPU, centros de datos y producción de energía que se espera antes de que termine la década.
Además, la seguridad de AGI es crítica. En la actualidad, los principales laboratorios de IA no están suficientemente protegidos contra amenazas de actores estatales, lo que plantea un riesgo considerable. Asegurar los secretos y los pesos de AGI contra estas amenazas será un esfuerzo inmenso y actualmente no estamos en el camino correcto.
Otro desafío crucial es la "superalineación": controlar de manera confiable sistemas de IA mucho más inteligentes que nosotros es un problema técnico aún no resuelto. Aschenbrenner señala que, aunque es un problema solucionable, podría fácilmente descontrolarse durante una rápida explosión de inteligencia, con consecuencias potencialmente catastróficas. La superinteligencia otorgará una ventaja decisiva en términos económicos y militares. Evitar la autodestrucción será un desafío primordial.
A medida que se intensifica la carrera hacia la AGI, Aschenbrenner anticipa una mayor involucración del estado en el desarrollo de la IA. Se espera que para 2027/2028, Estados Unidos desarrolle algún tipo de proyecto gubernamental de AGI, ya que ninguna startup puede manejar la superinteligencia por sí sola. Esta movilización estatal será crucial para gestionar los riesgos y las oportunidades que presentará la superinteligencia.
En sus reflexiones finales, Aschenbrenner considera las implicaciones si sus predicciones fueran correctas. Si bien reconoce la posibilidad de que estos desarrollos puedan parecer una exageración, destaca que la consistencia en las tendencias de progreso sugiere un futuro de transformación sin precedentes en la capacidad tecnológica humana.
El autor concluye que estamos al borde de una era donde la inteligencia artificial no solo cambiará la forma en que trabajamos y vivimos, sino que también redefinirá la estructura fundamental de la sociedad y la geopolítica global.