Bloomberg — Anthropic PBC pidió la creación de un sistema en el que los gobiernos y los desarrolladores de inteligencia artificial decidan colectivamente cuándo frenar el trabajo en esta tecnología para evitar los riesgos que pueda plantear.
Ver más: La IA ahorra tiempo, pero la mayoría de las empresas desaprovechan la ventaja: estudio
“Sería bueno para el mundo tener la opción de mostrar o pausar temporalmente” los trabajos de IA que puedan ser peligrosos, afirmó la empresa en una extensa entrada de blog publicada el jueves por el cofundador Jack Clark y la directora del Anthropic Institute, Marina Favaro. La IA está avanzando hasta el punto de que la tecnología puede hacer que el trabajo humano sea miles de veces más eficiente o incluso sustituirlo, lo que crea un nuevo conjunto de riesgos, señalaron.
Anthropic ha reconocido lo difícil que sería conseguir que las empresas, y mucho menos países enteros que llevan años enzarzados en una carrera por hacer avanzar sus propias tecnologías, se pusieran de acuerdo para hacer una pausa colectiva. La empresa ha hecho llamamientos similares para que gobiernos y rivales adopten umbrales.
En 2023, la startup estableció sus propios límites y prometió detener los trabajos que pudieran resultar peligrosos. Pero la empresa aflojó ese compromiso a principios de este año, diciendo que la empresa ya no haría una pausa si carece de una ventaja significativa sobre un competidor.
Al retractarse de ese compromiso, Anthropic dijo que el entorno político había cambiado hacia la priorización de la competitividad y el crecimiento económico de la IA frente a la seguridad. El jueves, la empresa dijo que se reuniría con los responsables políticos y otras empresas de IA en los próximos meses para hablar de una mejor coordinación y compartir el resultado de esas discusiones.
Un protocolo para decidir una pausa colectiva es cada vez más importante, ya que la IA pronto podría ser capaz de mejorarse a sí misma y construir sucesores, disminuyendo el papel de los humanos, dijeron Clark y Favaro. “Esa colisión, en la que la inteligencia recursiva que se construye a sí misma cada vez más rápido se encuentra con el mundo de los humanos, las relaciones y la gobernanza, es otra parte de este futuro que no podemos predecir”, escribieron.
La entrada del blog comparaba la idea con la regulación internacional de las armas nucleares. Cualquier mecanismo de pausa también tendría que garantizar que los laboratorios de IA menos escrupulosos no sigan trabajando en secreto para hacer avanzar la tecnología durante una pausa, probablemente mediante comprobaciones por parte de laboratorios homólogos.
Los investigadores de la IA han instado anteriormente a los gobiernos a detener temporalmente el trabajo. En 2023, por ejemplo, el Future of Life Institute, una organización sin ánimo de lucro, pidió una pausa de al menos seis meses para poner coto a la IA, advirtiendo de sus efectos potencialmente catastróficos. El multimillonario Elon Musk lo firmó junto con más de 1.000 investigadores y ejecutivos. Los críticos de entonces dijeron que detener el desarrollo frenaría la innovación y daría ventaja a otros que no detuvieran el trabajo.
Es un reto que la propia Anthropic reconoció en la entrada del blog: “Las carreras de entrenamiento son mucho más fáciles de ocultar que los silos de misiles, sus insumos son de uso general y el incentivo para desertar silenciosamente es enorme, porque quien continúe mientras los demás hacen una pausa podría heredar el liderazgo”.
Anthropic ha seguido sacando al mercado modelos y herramientas avanzadas, como su popular asistente Claude, y el nuevo modelo Mythos que, según afirma, puede detectar y explotar fallos de ciberseguridad a una velocidad notable. La empresa también se está preparando para una oferta pública inicial.
Lea más en Bloomberg.com
