startup

Cómo fueron revividos los mejores modelos de IA del mundo

Fuente: axios.com 5 min de lectura

Compartir

Cómo fueron revividos los mejores modelos de IA del mundo

Estás leyendo un resumen. El contenido completo está en axios.com.

La pelea que eliminó los modelos de IA más poderosos del mundo de Internet estuvo marcada por choques de personalidades, confusión en la industria y reacciones internacionales. Por qué es importante: los modelos de Anthropic están de vuelta en línea, pero el impacto de su enfrentamiento de 20 días con la administración Trump será duradero. Detrás de escena: Todo comenzó cuando Amazon, socio e inversor de Anthropic, lanzó una alarma que luego fue discutida por expertos en ciberseguridad. Avisó sobre un problema de "jailbreaking" que encontró en los últimos modelos del laboratorio de IA, Mythos y Fable, lo que significa una falla técnica que pudo haber causado un colapso en sus medidas de seguridad. Amazon hizo llegar sus preocupaciones a la administración, lo que desató controles de exportación generalizados. Un funcionario de EE. UU. dijo que el gobierno realizó sus propias pruebas una vez que se hizo evidente que el problema debía ser abordado. Sin embargo, expertos en ciberseguridad escribieron más tarde en una carta abierta a la administración que otros modelos de IA líderes tenían el mismo problema que Amazon advirtió sobre Anthropic. El 12 de junio, el secretario de Comercio Howard Lutnick, bajo la dirección del presidente Trump, llamó al CEO de Anthropic, Dario Amodei. Lutnick dejó claro a Amodei que el problema necesitaba ser resuelto rápidamente y alertó al CEO que la compañía recibiría una carta imponiendo controles de exportación amplios, según el funcionario de EE. UU. Amodei volvió a llamar a Lutnick esa noche después de recibir la carta, dándose cuenta de que eso significaba que los modelos tendrían que ser retirados de línea, a lo que Lutnick respondió que ese era, de hecho, el objetivo. Esa decisión condujo a un curso intensivo de tres semanas, con múltiples agencias, sobre la seguridad de la IA. Anthropic envió ingenieros a Washington D.C. Según un funcionario de EE. UU., la compañía quería probar que todo ya estaba resuelto y que se estaban ajustando cambios adicionales. Pero el Centro Federal para los Estándares e Innovación de la IA y la Agencia Nacional de Seguridad dijeron que esos cambios no eran suficientes, lo que llevó a más ajustes, según el funcionario de EE. UU. Gradualmente, varios jefes de agencias aprobaron esos cambios, y el 1 de julio los modelos fueron lanzados, según el funcionario. De todos los funcionarios de la administración que Andy Jassy de Amazon pudo haber llamado, fue el secretario del Tesoro Scott Bessent quien primero oyó sobre el problema de jailbreaking encontrado en el informe de la compañía, según una fuente familiar. Bessent fue quien alertó temprano sobre Mythos, trabajó con la jefa de personal de la Casa Blanca, Susie Wiles, para volver a involucrar a la compañía en problemas y ayudó a llevar un orden ejecutivo de ciberseguridad a la meta. Mientras se llevaban a cabo discusiones técnicas para abordar el problema del jailbreaking en D.C., fue Bessent quien estuvo al lado del presidente Trump durante el G7, donde los aliados pidieron cooperación global en normas de seguridad. En el centro del enfrentamiento estaba el secretario de Comercio Howard Lutnick, quien también acompañó a Trump en la reunión del G7 mientras los equipos de su departamento lideraban las discusiones técnicas. El director nacional de ciberseguridad Sean Cairncross, la Oficina de Ciencia y Tecnología de la Casa Blanca, el CIO del Departamento del Tesoro Sam Corcos y la NSA también participaron en las discusiones técnicas, según varias fuentes. Washington se movilizó más rápido para llevar a cabo numerosas reuniones y convocó a muchas más agencias de lo que uno esperaría para un solo problema técnico, dijo una fuente. La tensión aumentó en medio de choques de personalidades y mala comunicación. Anthropic eventualmente entendió que para tener éxito necesitaba estar del mismo lado que el gobierno, dijo el funcionario de EE. UU. A medida que las discusiones se volvían más técnicas, la jefa de políticas de Anthropic, Sarah Heck, y el cofundador de Anthropic, Tom Brown, se involucraron más. Brown también tuvo múltiples conversaciones con Lutnick y Cairncross el fin de semana del 12 de junio. Nunca hubo un momento en que Dario se retirara del escenario y alguien más lo reemplazara, dijo una fuente, añadiendo que la experiencia técnica de Brown le permitió estar en una sala con especialistas del gobierno y revisar línea por línea cómo se comportan los modelos bajo estrés. Entre líneas: Sigue siendo incierto cuándo y cómo se lanzarán los modelos de Anthropic a países aliados de todo el mundo, lo que los defensores dicen que es clave para vencer a China, o cómo otros laboratorios como OpenAI y Google lanzarán sus últimos modelos. OpenAI, cuyo último modelo GPT-5.6 está en espera, no tuvo visibilidad sobre las discusiones entre Anthropic y la Casa Blanca y está comprometido en discusiones técnicas diarias sobre el lanzamiento de su propio modelo, dijo una fuente. La conclusión: Aún queda mucho trabajo por hacer en un marco para aprobar futuros modelos con un proceso claro e inclusivo que tenga estándares de transparencia y plazos, dijeron fuentes familiarizadas.

Artículos relacionados