Bloomberg — Según la propia empresa, más de una cuarta parte del trabajo de investigación y desarrollo de Anthropic PBC en el ámbito de la inteligencia artificial gira en torno a su chatbot Claude, lo que constituye la indicación más clara hasta la fecha de que la IA puede contribuir a acelerar el desarrollo de futuros modelos.
Anthropic ha constatado que Claude “lidera” el 26% de la I+D de la empresa, frente a prácticamente nada a principios de año, según un informe publicado este jueves. La empresa desarrolladora de IA ha señalado que Claude también colabora con el personal en aproximadamente el 90% de su trabajo.
Ver más: Anthropic lleva Claude al negocio de los asesores financieros con tecnología de BlackRock y Vanguard
Estas cifras se han dado a conocer como parte de un informe más amplio destinado a ayudar al público a seguir el progreso del desarrollo de la IA, en respuesta a la creciente preocupación por la posibilidad de que la IA mejore rápidamente y escape al control humano.
La empresa también reiteró sus planes de incorporar evaluadores externos procedentes de varias organizaciones dentro de la propia empresa y de concederles acceso a los procesos, sistemas y datos internos de forma equiparable a la que la empresa concede a sus propios empleados.
“Los sistemas de IA se están volviendo exponencialmente más potentes y han comenzado a automatizar cada vez más el proceso de su propia creación. En un momento en que el mundo se plantea ralentizar el ritmo del desarrollo de la IA de vanguardia, el público necesita más información”, escribió la empresa.
Anthropic es una de las varias empresas de IA que se centran en la “auto-mejora recursiva” (RSI), es decir, la idea de un sistema de IA capaz de mejorarse a sí mismo con poca o ninguna ayuda de los seres humanos. Algunas empresas lo consideran el futuro del desarrollo de la IA, pero también ha suscitado inquietudes sobre las amenazas a la seguridad que esta forma de IA podría suponer si llegara a materializarse.
En el blog, Anthropic afirmó que había intentado crear un marco para realizar un seguimiento de los agentes y supervisar la cantidad de trabajo que realizan en su plataforma. Señaló que, a fecha de agosto, más de 30.000 agentes realizan labores de investigación e ingeniería en la empresa en cualquier momento dado.
Ver más: Anthropic habría elegido el Nasdaq para su tan esperada salida a bolsa
Anthropic también detalló cómo destina recursos a acelerar el desarrollo de la IA en lugar de a garantizar la seguridad de su propia IA. Según sus mediciones, se constató que entre el 6% y el 12% de sus recursos informáticos, dependiendo del tipo de investigación que se llevara a cabo, se destinaban a la supervisión de la seguridad.
En una entrada de blog publicada a principios de septiembre, el fabricante rival de IA OpenAI también compartió novedades sobre su apuesta por la automatización de la investigación, señalando que había suspendido temporalmente parte del entrenamiento de sus modelos tras descubrir que estos habían pirateado los sistemas externos de Hugging Face, una startup.
La inquietud por los riesgos existenciales de la IA cobró impulso la semana pasada, impulsada por la sonada salida de Jacob Coxon, empleado de Anthropic, quien acusó a las empresas de IA de “jugar con nuestras vidas” en un mensaje de dimisión que compartió en las redes sociales.
En los últimos días, numerosos líderes de empresas de IA, entre ellos el CEO de Anthropic, Dario Amodei, y el CEO de OpenAI, Sam Altman, han instado a ralentizar el ritmo de desarrollo de la tecnología para hacer frente a sus riesgos cada vez más impredecibles, aunque sus opiniones difieren en cuanto a la forma exacta en que debería abordarse.
Ver más: ¿La IA ya desobedece a sus creadores? No solo eso, también los engaña, según OpenAI
El sábado, en un ensayo de 3.800 palabras, Amodei abogó por una regulación gubernamental y pidió al sector tecnológico que respaldara una desaceleración más amplia del desarrollo de la IA. Esto provocó una vehemente reacción por parte del presidente Donald Trump, quien desestimó los temores sobre los riesgos de esta tecnología calificándolos de “un engaño” y rechazó la idea de nuevas normas.
Otros líderes del sector tecnológico también han respondido: Altman y el CEO de Nvidia Corp. (NVDA), Jensen Huang, sostienen que las empresas de IA regularían por sí mismas el ritmo de desarrollo de la IA de forma segura, mientras que el CEO de Meta Platforms Inc. (META), Mark Zuckerberg, afirma que los laboratorios de IA deberían recurrir a evaluadores y asesores independientes para garantizar que los modelos sean seguros.
Lea más en Bloomberg.com
