¿La humanidad está en riesgo de extinción por la Inteligencia Artificial?

Los expertos creen que la Inteligencia Artificial acabará con la humanidad tal como la conocemos, entonces, ¿qué se está haciendo para evitar que suceda?

Una vez más, un grupo de destacados investigadores y empresas tecnológicas de IA han advertido que el rápido desarrollo actual de la inteligencia artificial podría significar un desastre para la humanidad.

Los riesgos abarcan conflictos nucleares, enfermedades, desinformación e IA desbocada sin supervisión, todo lo cual presenta una amenaza inmediata para la supervivencia humana.

Pero no se perderá el hecho de que muchas de esas advertencias provienen de las mismas personas que lideran el desarrollo de IA y promueven herramientas y programas de inteligencia artificial en sus respectivas empresas.

¿Por qué las empresas tecnológicas y los científicos de Inteligencia Artificial advierten sobre el riesgo de IA?

Hace unas semanas, más de 350 investigadores, desarrolladores e ingenieros de IA publicaron una declaración firmada advirtiendo sobre la amenaza de la IA para la humanidad.

Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear.

Los firmantes de la declaración de Safe.ai incluyeron a Sam Altman de OpenAI, Demis Hassabis de Google DeepMind y Dario Amodei de Anthropic, junto con los ganadores del Premio Turing Geoffrey Hinton y Yoshua Bengio (aunque Yann LeCun, quien también ganó el mismo premio, se olvidó de firmar ). La lista es casi quién es quién en el mundo del desarrollo de la IA, las personas que lideran el camino con la IA, pero aquí están todos, advirtiendo que la IA podría significar un desastre para la humanidad.

Sin embargo, no es solo una pandemia global lo que podría causar problemas de salud relacionados con la IA. The Guardian informa sobre varios otros problemas de salud de la IA que podrían afectar a los humanos si no se controlan antes de su uso generalizado.

¿Cuál es el riesgo de la Inteligencia Artificial?

La mayoría de los riesgos asociados con la IA, al menos en este contexto, se relacionan con el desarrollo de tecnología de IA desbocada que excede las capacidades de los humanos, en la que finalmente se vuelve contra su creador y acaba con la vida tal como la conocemos. Es una historia cubierta innumerables veces en la escritura de ciencia ficción, pero la realidad ahora está más cerca de lo que pensamos.

Los modelos de lenguaje grande (que sustentan herramientas como ChatGPT) están aumentando drásticamente en capacidades. Sin embargo, herramientas como ChatGPT tienen muchos problemas, como el sesgo inherente, las preocupaciones sobre la privacidad y la alucinación de la IA, por no hablar de su capacidad de hacer jailbreak para actuar fuera de los límites de sus términos y condiciones programados.

¿Cómo regulan los gobiernos el desarrollo de la IA para detener los riesgos?

La regulación de la IA es clave para prevenir riesgos. A principios de mayo de 2023, Sam Altman pidió una mayor regulación de la IA y afirmó que “la intervención regulatoria de los gobiernos será fundamental para mitigar los riesgos de modelos cada vez más poderosos“.

Luego, la Unión Europea anunció la Ley de IA, una regulación diseñada para proporcionar un marco mucho más sólido para el desarrollo de IA en toda la UE (con muchas regulaciones que se extienden a otras jurisdicciones). Altman inicialmente amenazó con sacar a OpenAI de la UE, pero luego se retractó de su amenaza y acordó que la empresa cumpliría con la regulación de IA que había solicitado anteriormente.

¿Acabará la Inteligencia Artificial con la humanidad?

Dado que gran parte del debate sobre este tema se basa en hipótesis sobre el poder de las futuras versiones de la IA, existen problemas en torno a la longevidad y el poder que puede tener cualquier regulación de la IA. ¿Cuál es la mejor manera de regular una industria que ya se mueve a mil millas por minuto y los avances en el desarrollo ocurren a diario?

La entrada ¿La humanidad está en riesgo de extinción por la Inteligencia Artificial? se publicó primero en Cristian Monroy.