Bloomberg — Anthropic PBC ha presentado nuevas versiones de sus potentes modelos de inteligencia artificial Mythos y Fable, en un esfuerzo por reforzar la posición de la compañía como líder en el desarrollo de IA en vísperas de su tan esperado debut en Wall Street.
Anthropic anunció que Fable 5.2, cuyo lanzamiento está previsto para el lunes, puede abordar tareas de ingeniería de software más complejas, gestionar tareas relacionadas con el hardware, como el control de robots, y manejar proyectos de larga duración. Además, está diseñado para coordinar más de 1.000 agentes de IA simultáneamente. Mythos 5.2, el mismo modelo pero con menos medidas de seguridad para el sector de la ciberseguridad y las ciencias biológicas, se está implementando en organizaciones seleccionadas mediante un programa de verificación previamente anunciado.
Estos lanzamientos están llamados a ayudar a Anthropic a hacer frente a los retos que plantean rivales como OpenAI en un mercado cada vez más competitivo, ahora que el creador de Claude se acerca a una salida a bolsa histórica que podría tener lugar este mismo mes. Sin embargo, el anuncio también podría dar lugar a un mayor escrutinio de la empresa en un momento en el que muchas personas, tanto dentro como fuera del sector tecnológico, advierten sobre los potenciales riesgos catastróficos de la IA en materia de seguridad. Asimismo, se espera que la victoria arrolladora de los demócratas en las elecciones de mitad de legislatura de EE.UU. impulse la regulación significativa en materia de seguridad de la IA y plantee nuevos obstáculos para la construcción de los centros de datos utilizados para entrenar y ejecutar modelos de IA.
Según Anthropic, ambos modelos son más rápidos que las versiones anteriores, y Fable es más económico.
Estos lanzamientos están destinados a ayudar a Anthropic a contrarrestar los desafíos de rivales como OpenAI en un mercado cada vez más competitivo, mientras el fabricante de Claude se acerca a una histórica salida a bolsa este mismo mes. Sin embargo, el anuncio también podría generar un mayor escrutinio sobre la empresa en un momento en que muchos, tanto dentro como fuera de la industria tecnológica, advierten sobre los posibles riesgos catastróficos de seguridad de la IA. Se espera que la victoria demócrata en las elecciones de mitad de mandato en EE.UU. impulse la necesidad de una regulación significativa de la seguridad de la IA y cree nuevos obstáculos para la construcción de los centros de datos utilizados para entrenar y ejecutar modelos de IA.
A mediados de septiembre, el CEO de Anthropic, Dario Amodei, instó a las principales empresas de IA a ralentizar el desarrollo de sus modelos más avanzados, días después de que un investigador de IA de la compañía renunciara y afirmara que quienes desarrollan inteligencia artificial creen que podría acabar con la humanidad para finales de la década. Anthropic no ha lanzado una nueva versión de Fable y Mythos desde principios de septiembre.
Ver más: Inversores reducen hasta US$1,2 billones la valoración prevista de Anthropic antes de salir a bolsa
Dianne Penn, responsable de la gestión de productos de investigación en Anthropic, explicó que la empresa abordó la idea de ralentizar el desarrollo con periodos de prueba más largos para los modelos más recientes, que incluían métodos de evaluación nuevos y más variados. “Ralentizar el desarrollo no es lo mismo que hacer una pausa”, afirmó Penn.
La versión original de Mythos, presentada en abril, marcó un hito en la ciberseguridad gracias a su capacidad para detectar y potencialmente explotar vulnerabilidades de seguridad en software crítico. Inicialmente, Anthropic limitó su lanzamiento a ciertas agencias gubernamentales, instituciones financieras y grandes proveedores de software para evitar ataques informáticos. Fable, lanzado dos meses después, fue diseñado para llevar las capacidades de Mythos a un mercado más amplio, impidiendo a los usuarios realizar tareas de ciberseguridad.
Las preocupaciones del gobierno estadounidense sobre la seguridad de ambos modelos de IA llevaron a imponer restricciones de acceso en junio; estas restricciones se levantaron para Fable 5 después de que Anthropic añadiera clasificadores que permiten al modelo detectar y bloquear más tareas de ciberseguridad. Posteriormente se restableció el acceso a Mythos 5, pero a un grupo reducido de usuarios.
Penn afirmó que Anthropic está aumentando el número de empresas que pueden acceder a Mythos, y que la nueva versión del software está disponible para empresas en EE.UU. y en el extranjero. (La versión anterior también está disponible para algunas empresas fuera de EE.UU., añadió).
Más recientemente, Anthropic y otros desarrolladores de IA han revelado incidentes en los que sus modelos vulneraron la seguridad de organizaciones externas tras acceder a internet desde entornos de prueba que deberían haber estado aislados. Estos informes han aumentado la preocupación por el potencial de los sistemas de IA para actuar de forma impredecible y perjudicial.
Ver más: El peligro de Anthropic está en tener certeza sobre sus enormes costos
Penn afirmó que el gobierno estadounidense y evaluadores externos revisaron los nuevos modelos y proporcionaron comentarios antes de su lanzamiento. La empresa desarrolló nuevas medidas de evaluación para comprobar la probabilidad de que un modelo se salga de los entornos controlados digitales, explicó, y descubrió que los nuevos modelos Fable y Mythos tenían menos probabilidades de hacerlo que las versiones anteriores.
Mientras Anthropic avanza con una nueva versión de Fable, se enfrenta a otro desafío: los costos. Según datos de Ramp publicados en agosto, la oferta más cara de la compañía representó solo el 11% del gasto total en sus modelos. “Con Fable 5, hemos encontrado un nuevo límite superior para lo que las empresas están dispuestas a gastar en IA”, declaró Ramp en aquel momento.
Anthropic indicó que la versión más reciente de Fable cuesta US$8 por millón de tokens de entrada y US$40 por millón de tokens de salida, una reducción con respecto a los US$10 y US$50, respectivamente, de Fable 5.1.
Lea más en Bloomberg.com
