Anthropic ha planteado ante el Congreso de Estados Unidos un proyecto de ley para que el gobierno federal pueda paralizar modelos avanzados de inteligencia artificial si estos amenazan con provocar daños económicos superiores a mil millones de dólares o más de 50 muertes.
Intervención federal y supervisión independiente en la tecnología
Un proyecto de ley elaborado por Anthropic establece la intervención del Departamento de Comercio y evaluadores independientes para fiscalizar los modelos de inteligencia artificial de vanguardia.
Representantes del laboratorio de inteligencia artificial mantuvieron encuentros con legisladores del Congreso de Estados Unidos con el propósito de presentar una propuesta legislativa propia orientada a la seguridad de sistemas avanzados. El borrador contempla la participación directa del Departamento de Comercio como organismo federal encargado de supervisar a las empresas tecnológicas del sector.
Para garantizar el cumplimiento de las normativas, el marco propone la incorporación de evaluadores independientes registrados ante dicho departamento. Estas figuras técnicas tendrán la obligación de ejecutar revisiones periódicas tanto de las corporaciones como de los programas en fase de desarrollo.
- Evaluadores independientes: Sujetos a registro previo ante el Departamento de Comercio para auditar laboratorios.
- Plazo de notificación: Máximo de 72 horas para reportar riesgos inminentes detectados durante las evaluaciones.
- Supervisión sectorial: Alcance aplicable a cualquier compañía que diseñe modelos con capacidad de generar perjuicios masivos.
Protocolo judicial para el apagado de sistemas avanzados
La paralización operativa y de desarrollo de un modelo de inteligencia artificial requerirá una orden exclusiva emitida por un juez federal.
Si las evaluaciones periódicas determinan que un sistema de vanguardia plantea un riesgo inminente y cuantificable, los auditores independientes deberán notificarlo al Departamento de Comercio en un plazo máximo de 72 horas. Este organismo federal constituirá la única entidad con la potestad legal para solicitar ante la justicia la paralización total del uso y desarrollo de la tecnología implicada.
La ejecución de esta medida cautelar posee un requisito jurisdiccional estricto. La orden de cese solo podrá ser concedida por un juez federal adscrito al Tribunal de Distrito del Distrito de Columbia.
Umbrales críticos y convergencia con normativas estatales
Anthropic fija los límites de intervención en perjuicios económicos superiores a mil millones de dólares o más de 50 muertes y lesiones graves.
El documento redactado por el laboratorio establece parámetros cuantitativos precisos para activar los mecanismos de detención tecnológica. Los umbrales de activación se estructuran de la siguiente manera:
- Daño financiero: Perjuicios económicos evaluados o proyectados en más de mil millones de dólares.
- Impacto vital: Riesgo de causar la muerte o lesiones graves a más de 50 personas.
- Alcance corporativo: Aplicabilidad transversal a cualquier empresa desarrolladora de modelos de frontera.
Estas disposiciones coinciden parcialmente con las normativas vigentes en la regulación de inteligencia artificial del estado de California, así como con la ampliación impulsada por el gobernador Gavin Newsom. Dicha iniciativa estatal contempla la introducción de auditores independientes en los centros de desarrollo tecnológico y la instalación de mecanismos de interrupción en los modelos punteros.
Antecedentes de incidentes y postura de los directivos
La presentación del marco legislativo sucede a diversos incidentes de seguridad y a las declaraciones públicas de los máximos responsables de Anthropic y OpenAI sobre frenar el desarrollo.
Las negociaciones en torno a este proyecto normativo se producen tras conocerse durante el verano diversos incidentes de seguridad protagonizados por agentes autónomos de inteligencia artificial pertenecientes a empresas como Anthropic, OpenAI, Google y Meta. Estos episodios cuestionaron la estabilidad de una tecnología cuyos procesos de decisión y actuación autónoma representan vulnerabilidades significativas para la sociedad.
En consonancia con este clima de cautela, el director ejecutivo de Anthropic, Dario Amodei, manifestó en septiembre la urgencia de desacelerar el ritmo de progresión de las capacidades de los modelos de inteligencia artificial. Esta postura restrictiva fue respaldada públicamente por el director ejecutivo de OpenAI, Sam Altman, evidenciando un giro en el sector hacia mayores controles normativos.
