ORDEN DE APAGADO | El gobierno de Estados Unidos, bajo la administración Trump, ha emitido una orden que obliga a Anthropic a suspender el acceso a sus modelos de IA avanzados Claude Fable 5 y Mythos 5, alegando motivos de seguridad nacional.
La decisión implica que la compañía debe deshabilitar por completo ambos modelos para todos sus clientes, lo que ha generado un debate sobre el poder real de los modelos de IA avanzados y cómo deben regularse.
Motivos de la orden gubernamental
Según Anthropic, la orden se basa en la identificación de un método de "jailbreak" para Fable 5, que permitiría sortear las medidas de seguridad del modelo. Sin embargo, la compañía cuestiona la reacción de las autoridades, ya que esas mismas vulnerabilidades pueden ser descubiertas por otros modelos públicos sin necesidad de jailbreak.
Temor a Mythos 5
El nombre Mythos 5 se ha vuelto simbólico en la conversación pública sobre IA avanzada debido al miedo a modelos que puedan potenciar ataques cibernéticos o vulnerar sistemas críticos. Anthropic asegura que no ha recibido pruebas de un jailbreak preocupante que haya derivado en daño real y que los posibles jailbreaks comunicados hasta ahora no ofrecen ninguna ventaja específica ligada a Mythos.
Defensas de Fable 5 y el debate regulatorio
Anthropic destaca que Fable 5 es uno de los sistemas con más salvaguardas desplegados por la compañía y que han implementado medidas de seguridad muy estrictas para reducir el riesgo de usos relacionados con ciberseguridad. La compañía trabajó con el gobierno de Estados Unidos y otras organizaciones para someter Fable a pruebas de red team durante miles de horas, buscando maneras de romper sus defensas.
Anthropic admite que la resistencia perfecta a jailbreaks probablemente no es posible hoy para ningún proveedor de modelos y que han adoptado una estrategia de defensa en profundidad. La compañía pide disculpas a sus clientes por la interrupción y asegura que está trabajando para restaurar el acceso lo antes posible.
La decisión gubernamental deja varias incógnitas abiertas sobre los modelos como Claude Fable 5, que nacen con múltiples capas de seguridad pero enfrentan una creciente sensibilidad regulatoria que puede apagar un modelo en cuestión de horas.
Antecedentes de la regulación de IA en Estados Unidos
La decisión del gobierno de Estados Unidos de obligar a Anthropic a apagar sus modelos de IA Claude Fable 5 y Mythos 5 se enmarca en un contexto de creciente preocupación por la seguridad nacional y la necesidad de regular la tecnología de inteligencia artificial avanzada. En los últimos años, el gobierno estadounidense ha emitido varias directivas y regulaciones aimed at controlar el desarrollo y despliegue de la IA, especialmente en áreas como la ciberseguridad y la defensa nacional.
Según un informe de la Oficina de Responsabilidad del Gobierno (GAO) de Estados Unidos, publicado en 2023, el gobierno ha estado trabajando en la desarrollo de una estrategia nacional de IA que aborda los riesgos y beneficios de esta tecnología. El informe destaca la importancia de la colaboración entre el gobierno, la industria y la academia para abordar los desafíos de la IA.
- En 2020, el gobierno de Estados Unidos lanzó la Iniciativa Nacional de Inteligencia Artificial para promover el desarrollo de la IA en áreas como la defensa nacional, la ciberseguridad y la salud.
- En 2022, la Agencia de Seguridad de Infraestructura y Ciberseguridad (CISA) de Estados Unidos publicó un marco de referencia para la seguridad de la IA que proporciona pautas para la evaluación y mitigación de riesgos.
Implicaciones de la regulación en la industria de la IA
La decisión de apagar Claude Fable 5 y Mythos 5 plantea preguntas sobre el impacto de la regulación en la industria de la IA en Estados Unidos y a nivel global. Algunos expertos argumentan que una regulación excesiva podría frenar la innovación y el desarrollo de la IA, mientras que otros sostienen que es necesaria para garantizar la seguridad y la transparencia en el uso de esta tecnología.
