Anthropic pide 1.000 millones por vetos federales

Anthropic, desarrolladora del asistente Claude, impulsa una iniciativa legislativa para establecer un estándar federal único que regule los sistemas avanzados de inteligencia artificial en Estados Unidos. La propuesta busca definir con precisión las circunstancias excepcionales bajo las cuales el gobierno podría intervenir para bloquear el lanzamiento o uso de un modelo, priorizando la claridad normativa sobre la discrecionalidad estatal.

Umbrales críticos para la intervención

El borrador establece que las autoridades no podrán imponer restricciones salvo que exista un peligro inminente con consecuencias catastróficas. Los criterios son estrictos: se requiere que el riesgo implique pérdidas económicas superiores a 1.000 millones de dólares o que provoque la muerte o lesiones graves en más de 50 personas. Esta medida pretende limitar la capacidad gubernamental de frenar el desarrollo tecnológico mediante requisitos de daño muy elevados.

Mecanismos de evaluación y reporte

Además de los umbrales de daño, el proyecto contempla escenarios específicos que justificarían la acción estatal, como el uso de modelos para fabricar armas biológicas, la ejecución de ciberataques o la pérdida de control sobre las salvaguardas de seguridad diseñadas por los creadores. Para garantizar la transparencia, se exigirían evaluaciones periódicas realizadas por expertos independientes, así como la publicación obligatoria de informes de riesgos y planes de contención por parte de las empresas.

El protocolo también incluye protecciones para empleados que denuncien fallos de seguridad y obliga a reportar incidentes graves. Si una agencia detecta una amenaza que cumpla con los parámetros establecidos, deberá notificar al Departamento de Comercio dentro de las 72 horas posteriores a la finalización de su análisis. Con esa información, la cartera tendría la facultad de solicitar a un juez federal en Washington la suspensión inmediata del sistema en cuestión.

Tensión entre regulación y libertad técnica

Esta propuesta surge en un contexto de creciente preocupación por la autonomía de los agentes de IA, especialmente su capacidad para identificar y explotar vulnerabilidades en infraestructuras digitales. Anthropic intenta equilibrar la supervisión de riesgos con la preservación de la innovación, aunque el enfoque ha generado debate sobre si los límites definidos resultan excesivamente permisivos frente a amenazas emergentes que podrían ser severas sin alcanzar las cifras mencionadas.