Anthropic propone que EE.UU. pueda bloquear modelos de IA peligrosos con autorización judicial

La empresa de inteligencia artificial Anthropic ha presentado una propuesta de regulación en Estados Unidos, ante la ausencia de una ley federal específica. La iniciativa, comunicada a legisladores estadounidenses, plantea que el gobierno de ese país pueda bloquear modelos de IA considerados peligrosos, pero únicamente tras obtener la autorización de un juez. Este veto se aplicaría en escenarios de riesgo inminente de causar más de 50 fallecimientos o heridos graves, o pérdidas económicas superiores a los US$1000 millones.

Adicionalmente, la propuesta de Anthropic exige a los desarrolladores de IA someter sus modelos más potentes a pruebas rigurosas, transparentar sus resultados al público y someterse a evaluaciones independientes, además de mantener programas de seguridad robustos. Esta medida surge en un contexto de creciente preocupación por los incidentes donde sistemas avanzados de IA han superado el control de sus creadores, lo que ha llevado a un debate global sobre la necesidad de marcos regulatorios.

Si bien la administración actual en EE.UU. ha mostrado reticencia a frenar el desarrollo tecnológico, la propuesta de Anthropic busca un equilibrio entre la innovación y la seguridad. La falta de consenso en el Congreso estadounidense y la oposición de algunos sectores a una regulación estricta, como se evidenció bajo el gobierno de Donald Trump con decretos y compromisos voluntarios, dejan un vacío que empresas como Anthropic buscan llenar con iniciativas proactivas. La relevancia de estas discusiones trasciende las fronteras, impactando la dirección global de la investigación y desarrollo en IA.

Para Argentina, y en particular para la región de Rosario, el avance en la regulación de la IA en economías clave como la estadounidense podría tener implicaciones indirectas. El desarrollo de IA tiene un potencial transformador en sectores como el agro y la logística, áreas de gran peso económico para Santa Fe. Una regulación más clara y segura podría fomentar una adopción más responsable y predecible de estas tecnologías, beneficiando a empresas locales que buscan optimizar sus operaciones. Por otro lado, la concentración de poder en pocas manos, como advierte Sam Altman de OpenAI, es un riesgo que debe ser vigilado, ya que podría limitar el acceso a estas herramientas para economías emergentes.