5 conclusiones del gran evento de ciencia de Anthropic

Incluso en comparación con la mayoría de los directores ejecutivos de empresas de IA, el cofundador y director ejecutivo de Anthropic, Dario Amodei, es conocido por hacer predicciones sorprendentes. En su ensayo de octubre de 2024 “Máquinas de la gracia amorosa”, hizo una de sus afirmaciones más famosas: “La biología y la medicina habilitadas por la IA nos permitirán comprimir el progreso que los biólogos humanos habrían logrado en los próximos 50-100 años en 5-10 años”. Llamó a este efecto el “siglo XXI comprimido”. El 30 de junio, en un evento de Anthropic en San Francisco llamado “La presentación: IA para la ciencia”, Amodei no declaró que el impacto de la IA en la biología y otras ciencias había desencadenado ese efecto o que estaba a punto de lograrlo. En cambio, enfatizó que no espera que ocurra en los próximos años. Sugirió que “podría” suceder dentro de una década. En IA, 2036 se siente como un futuro increíblemente distante. Pero el objetivo del evento de Anthropic era argumentar que la empresa está trabajando hacia la compresión de la que Amodei escribió. En particular, presentó Claude Science, una nueva versión de Claude, ajustada para la investigación científica, que se lanza en beta hoy. Alexander Tarashansky, quien lideró el desarrollo del producto, realizó una demostración prolongada en el escenario. La mayor parte del resto del evento se dedicó a discusiones en panel, con participantes que incluían a Amodei, la inventora del medicamento GLP-1 Lotte Knudsen, el CEO de Bristol Myers Squibb Chris Boerner, el CEO de Novartis Vas Narasimhan y el vicepresidente ejecutivo de Genentech Aviv Regev. Aunque el optimismo sobre el impacto de la IA en las ciencias ciertamente prevaleció, no fue desenfrenado. Las conversaciones fueron sorprendentemente sustantivas, reconociendo que incluso la IA que mejora rápidamente solo puede avanzar en campos como el descubrimiento de medicamentos hasta cierto punto. Mientras estaba en la audiencia en el Yerba Buena Center, esto es lo que encontré más valioso sobre el evento, uno de los mejores eventos de empresas tecnológicas a los que he asistido en los últimos años: 1. Claude Science se ve genial No espero usar Claude Science personalmente para crear medicamentos innovadores. Como no soy científico, puede que ni siquiera lo use. Pero me impresionó la demostración de Tarashansky, que mostraba cómo el producto tiene la sensación básica de un chatbot pero también un conjunto mucho más rico de herramientas para encontrar, manipular y entender información. En particular, Claude Science puede crear infografías al instante, no solo como posible material para PowerPoint, sino para ayudar a explorar datos de maneras que no se pueden lograr simplemente mirando números en una página. (“La ciencia es un asunto muy visual”, señaló Eric Kauderer-Abrams, jefe de ciencias de la vida de Anthropic). Cuando las infografías tenían problemas —etiquetas difíciles de leer y una leyenda cubriendo parte de la información que se suponía que debía explicar—, Tarashansky agregó breves anotaciones, y Claude Science fue lo suficientemente inteligente como para corregirlas. La visualización es fundamental para la experiencia de Claude Science. Algunos aspectos de Claude Science, como el corpus de materiales de investigación del que puede extraer, pueden no llegar a las versiones de Claude que la mayoría de nosotros usa. Pero espero que la forma en que va más allá de secuencias textuales en gran medida de preguntas y respuestas se refleje más ampliamente en las herramientas de Anthropic y de todos los demás en IA. 2. Fijarse en “curar el cáncer” es erróneo Casi cada discusión sobre cómo la IA podría mejorar radicalmente la vida humana rápidamente se convierte en la posibilidad de que cure el cáncer. Eso es un término abreviado para referirse a aportar avances médicos que de otro modo serían inalcanzables y que podrían salvar millones de vidas; yo, por mi parte, estaría igualmente emocionado si primero cura las enfermedades del corazón. Pero salí del evento de Anthropic resolviendo no fijarme en uno o dos grandes y audaces objetivos médicos al pensar en la IA y la ciencia. Si todo lo que logramos son cientos o miles de avances más pequeños, más rápidos de alcanzar, eso no es motivo para concluir que la promesa de la IA resultó ser exagerada. Claude Science proporciona acceso a más de 60 bases de datos científicas. “Hay muchas posibilidades y oportunidades aquí con esta tecnología, pero también debemos asegurarnos de no fijar expectativas sobre lo que vamos a poder lograr que simplemente no podemos cumplir”, argumentó Boerner. “Cuando escuchas ‘curar el cáncer en nuestra vida’ —vamos a hacer muchos progresos en cáncer en nuestra vida, pero no queremos sobrepasar nuestras posibilidades.” 3. La ciencia solo puede acelerarse hasta cierto punto Junto con ayudar al descubrimiento científico en sí, la IA podría ayudar con otros aspectos más mundanos de llevar medicamentos al mercado. “A veces, tienes que reclutar a 20,000 personas para un estudio de cinco años y toma dos años reclutar a las personas”, dijo Knudsen, quien ve promesas en la IA para acelerar la extensa administración involucrada en tales pruebas. Hablando sobre la visión de Amodei de comprimir décadas de avances científicos en años, advirtió que elementos como los estudios de cinco años no pueden reducirse radicalmente sin importar cuánta IA se les eche. “Creo que realmente veremos una compresión grande, pero todavía necesitamos los datos de los ensayos clínicos”, dijo. “Así que probablemente es difícil imaginar que puedes bajar de cinco años.” Incluso si procesos naturalmente lentos como los ensayos clínicos obstaculizan la velocidad teórica de 10X de Amodei, el progreso menos dramático sigue siendo progreso. “Puedes reducir esto de 12 años desde que realmente tenemos un candidato hasta el final de este viaje, a 7 u 8 años, que, si lo multiplicas a lo largo de toda esta industria, es masivo”, dijo Narasimhan. 4. Los científicos pueden necesitar volverse “bilingües” Las industrias de muchos tipos están actualmente atrapadas en una extraña trampa que involucra a ejecutivos sobreexcitados que no entienden la IA lo suficiente como para usarla de manera responsable (te miro, Ford). Knudsen, que parecía entusiasta sobre la tecnología sin ningún indicio de exuberancia irracional, dijo que es esencial que la ciencia esté llena de personas a las que describió como “bilingües”. “No me refiero a personas que hablan dos idiomas”, aclaró. “Me refiero a personas que son completamente fluidas en algún tema científico, así como en digital y en IA. Y entonces, una persona en cada equipo puede hacer maravillas, porque no puedes simplemente decirles a las personas: ‘Usen IA’.” 5. No esperes que las alucinaciones desaparezcan En un momento, el entrevistador Matthew Herper de Stat News le dijo a Amodei que había pedido a Claude ayuda con preguntas para hacer en el escenario. El chatbot no lo animó a lanzar preguntas fáciles. Según Herper, le dijo que preguntara “¿Por qué debería la industria farmacéutica confiar en las predicciones de la IA cuando sus modelos alucinan?” Amodei respondió diciendo que las alucinaciones “han mejorado mucho con el tiempo; ya no se habla tanto de alucinaciones”, lo cual es cierto. Sin embargo, al final, sostuvo que la capacidad de la IA de imaginar cosas es inseparable de su habilidad para obtener nuevos conocimientos de lo que sabe. Eso también es cierto para los humanos, dijo: “Para ser creativo, a menudo te mueves por la frontera entre inventar cosas y tener buenas ideas. Y por eso creo que [las alucinaciones] nunca van a desaparecer del todo.” Amodei no llegó a abordar lo que significa que las alucinaciones sean inevitables para la ciencia. Aun así, me impresionó su disposición a deconstruir sus propias predicciones sobre el avance científico y permitir que otros lo hicieran en un escenario que él estaba financiando. La IA ya tiene más proclamaciones grandiosas de las que realmente necesita, pero discusiones más calmadas y mesuradas siempre son bienvenidas. Podrían incluso ser la mejor manera para que la industria rompa el escepticismo público que rodea cada uno de sus movimientos.