Más de 200 figuras prominentes, desde investigadores y ejecutivos hasta premios nobel, han emitido una contundente llamada global por la regulación de la inteligencia artificial. Advierten que su avance incontrolado presenta riesgos sin precedentes que podrían superar las capacidades humanas y amenazar el bienestar global.
Un llamado global sin precedentes por la regulación de la inteligencia artificial
Investigadores, ejecutivos de la tecnología, políticos y ganadores del Premio Nobel han realizado un llamado conjunto para establecer un marco regulatorio que fije límites estrictos en el uso de la inteligencia artificial (IA). Este pronunciamiento, que busca que los gobiernos tomen decisiones cruciales antes de que la supervisión se torne inmanejable, fue respaldado por más de 200 figuras prominentes. Entre los firmantes se incluyen 10 laureados con el Nobel y científicos que trabajan en gigantes tecnológicos como Anthropic, Google DeepMind, Microsoft y OpenAI. La carta fue publicada el 24 de septiembre de 2025, al inicio de la sesión de la Asamblea General de Naciones Unidas en Nueva York.
Peligros sin precedente para la humanidad
El grupo de científicos y expertos asegura que la inteligencia artificial posee un inmenso potencial para mejorar el bienestar humano. No obstante, su trayectoria actual presenta peligros sin precedente. En este sentido, es imperativo fijar líneas rojas que funcionen como prohibiciones internacionales sobre usos considerados demasiado riesgosos bajo cualquier circunstancia.
Las líneas rojas propuestas: límites inquebrantables
Los firmantes detallan ejemplos claros de estas «líneas rojas», que instan a los gobiernos a establecer para finales del próximo año, dada la velocidad del avance tecnológico, con el fin de prevenir efectos devastadores para la humanidad. Estas incluirían:
- Confiar en sistemas de IA para comandar arsenales nucleares o cualquier tipo de sistema autónomo de armas letales.
- Permitir que la IA se utilice para vigilancia masiva.
- Implementar sistemas de puntuación social mediante inteligencia artificial.
- Utilizar la IA en ciberataques.
- Emplear la IA para la suplantación de personas.
Escalada de riesgos y la urgencia regulatoria
En la misiva, los expertos también exigen una colaboración robusta entre líderes mundiales para llegar a acuerdos internacionales sobre estas líneas rojas para la inteligencia artificial. Advierten que la IA podría pronto superar con creces las capacidades humanas y escalar riesgos críticos. Estos peligros abarcan desde pandemias diseñadas y desinformación generalizada hasta manipulación y violaciones sistemáticas de los derechos humanos.
Yoshua Bengio, ganador del Premio Turing 2018 (el galardón más importante de las Ciencias de la Computación) y reconocido como uno de los padres de la inteligencia artificial, forma parte de este grupo. Su opinión es contundente: «la carrera actual hacia sistemas de IA cada vez más capaces y autónomos plantea grandes riesgos para nuestras sociedades y necesitamos urgentemente la colaboración internacional para abordarlos. Establecer líneas rojas es un paso crucial para prevenir riesgos inaceptables». Bengio subraya que uno de los riesgos crecientes es la autonomía cada vez mayor de esta herramienta tecnológica, y que los gobiernos deben tomar decisiones que permitan controlar la IA antes de que su supervisión se vuelva aún más difícil.
