Puntos clave:
La administración Trump exige a Anthropic bloquear todos los jailbreaks posibles de sus modelos de IA más avanzados — una solicitud técnicamente imposible que ha llevado a ambas partes a un punto muerto sobre el futuro de la regulación de la IA.
La Casa Blanca exige a Anthropic eliminar todas las vulnerabilidades de seguridad posibles en sus modelos Fable 5 y Mythos 5, un estándar técnicamente inalcanzable que ha escalado a un enfrentamiento sobre el futuro de la regulación de la IA, según un alto funcionario de la Casa Blanca y un funcionario de la administración familiarizados con el asunto.
"El problema aquí es que la Casa Blanca ha mantenido una postura extremadamente antirregulatoria, y ahora se enfrenta a las capacidades reales de IA que la gente ha estado prediciendo durante muchos años", dijo un exfuncionario de tecnología de la Casa Blanca, que pidió permanecer en el anonimato para no poner en riesgo relaciones profesionales. "Debería haber habido preparación y políticas para abordar esto de manera sistemática, gestionando los beneficios y los riesgos, pero en cambio es solo un enfoque improvisado que pone a la industria de la IA en un verdadero dilema".
La disputa estalló después de que la Casa Blanca impusiera controles de exportación a Anthropic el 13 de junio, obligando a la empresa a suspender el acceso a ambos modelos para todos los usuarios. El CEO de Amazon, Andy Jassy, había advertido al secretario del Tesoro, Scott Bessent, de que los investigadores encontraron evidencia de elusión de las barreras de seguridad. Anthropic argumentó que la vulnerabilidad era limitada y no constituía una falla de seguridad significativa, pero la administración respondió prohibiendo el acceso a los modelos a usuarios extranjeros. La empresa optó por retirar los modelos por completo, alegando que era la única forma de cumplir con los controles de exportación.
El enfrentamiento conlleva importantes implicaciones económicas. Los clientes empresariales de Anthropic — incluyendo Apple, Meta y gran parte del Fortune 500 — siguen sin acceso a los sistemas más avanzados de la empresa. La disputa también ha congelado la capacidad de la compañía para desplegar nuevos modelos, lo que podría frenar el crecimiento de sus ingresos y su posicionamiento competitivo frente a sus rivales OpenAI y Google DeepMind.
La imposibilidad técnica en el centro de la disputa
Investigadores de seguridad y ejecutivos de IA afirman que la exigencia de la Casa Blanca no puede cumplirse con la tecnología actual. Debido a que los modelos de lenguaje de gran escala son probabilísticos en lugar de deterministas, las empresas no pueden garantizar lo que generarán en respuesta a cualquier indicación determinada. Todo modelo puede ser vulnerado en diversos grados, y resolver el problema por completo no es factible con los métodos existentes.
Anthropic e investigadores independientes de ciberseguridad sostienen que los jailbreaks no son un problema aislado que pueda solucionarse con un parche. La defensa inicial de la empresa fue que ningún modelo de IA puede ser completamente inmune a la piratería informática, una postura que molestó a los funcionarios de la Casa Blanca, quienes señalaron que Anthropic había pasado años advirtiendo sobre una posible catástrofe de la IA.
Las negociaciones entre la Casa Blanca y Anthropic — lideradas por parte de la empresa por Sarah Heck, directora de políticas públicas, y el cofundador Tom Brown — se han orientado hacia el desarrollo de un conjunto común de parámetros de referencia para evaluar futuros jailbreaks, incluyendo el grado en que se eludieron las salvaguardas, las capacidades expuestas y las consecuencias prácticas de la violación. Si bien los controles de exportación aún no se han levantado, el giro hacia un ejercicio de establecimiento de estándares técnicos indica que las negociaciones están avanzando.
Surge un régimen de licencias de facto
La administración Trump se había opuesto anteriormente a la concesión obligatoria de licencias de IA. El presidente Trump firmó una orden ejecutiva el mes pasado creando un sistema "voluntario" para que los laboratorios de IA sometan sus modelos a pruebas gubernamentales tempranas, con una excepción que establecía explícitamente que no se volvería obligatorio. Pero la disputa con Anthropic ha creado efectivamente una versión ad hoc de dicho régimen.
Otros laboratorios líderes de IA — incluyendo OpenAI, Google y Meta — han estado observando de cerca la disputa. Muchos líderes del sector creen ahora que tendrán que dar a la Casa Blanca acceso anticipado a sus últimos modelos y ser extremadamente proactivos en compartir información sobre los próximos lanzamientos. El riesgo de tomar desprevenidos a los funcionarios, dicen, es simplemente demasiado grande.
"Notificación anticipada, acceso anticipado. Creo que esas son las principales solicitudes que hemos escuchado, no solo de EE. UU., sino de otros países del mundo", dijo Aidan Gomez, CEO del laboratorio canadiense de IA Cohere, en una entrevista a principios de esta semana. "Creo que son cosas buenas en muchos aspectos. Muestra un fuerte compromiso y consideración por parte de las autoridades en una tecnología sumamente importante".
La disputa también surgió como un tema clave en la Cumbre del G7 en Francia esta semana, donde el presidente Trump dijo que las conversaciones con Anthropic "iban bien", pero no dio detalles. El CEO de Anthropic, Dario Amodei, instó a los líderes mundiales a resistir la tentación de fragmentar sus enfoques sobre la regulación de la IA.
Este artículo es únicamente con fines informativos y no constituye asesoramiento de inversión.
