Bloomberg — La china DeepSeek detalló un método innovador para entrenar agentes de inteligencia artificial, el cual potencialmente les permitiría aprender de manera más eficiente mientras se minimizan los comportamientos indebidos que han avivado las preocupaciones globales.
Ver más: DeepSeek golpea a Samsung y SK Hynix: inversionistas venden US$10.000 millones en acciones este mes
La empresa con sede en Hangzhou presentó sus ideas para DeepSeek Elastic Compute (DSec) en un documento de 10.000 palabras con aproximadamente 130 coautores, incluido su fundador, Liang Wenfeng. La investigación se publicó en arXiv, un sitio web para artículos científicos que normalmente se publican antes de su revisión por pares.
DeepSeek DSec: cómo funciona el nuevo método para entrenar agentes de IA
DeepSeek afirmó que la plataforma tecnológica podría diseñarse para gestionar millones de entornos de prueba, donde los agentes de IA serían evaluados mientras intentan completar una serie de tareas. Según la compañía, una unidad de producción de DSec podría ejecutar alrededor de 3 millones de entornos de prueba al día, o 380.000 simultáneamente.
La empresa añadió que su enfoque permite utilizar los recursos de forma más eficiente, ya que reasigna la potencia de cálculo a los agentes cuando están activos y no cuando se encuentran a la espera de nuevas instrucciones. Se estima que el 90% de los entornos de prueba no utilizan más del 5% de la capacidad solicitada de la unidad central de procesamiento (CPU). DeepSeek se ha labrado una reputación ofreciendo servicios avanzados de IA a un costo mucho menor que el de sus competidores de Silicon Valley.
La IA agentiva, que se basa en agentes virtuales para realizar tareas complejas con menor intervención humana, ha ganado popularidad en ámbitos que van desde la reserva de habitaciones de hotel y billetes de avión hasta la escritura de código de software. El nuevo agente de IA de Meta Platforms Inc. (META), Muse, se catapultó esta semana a la cima de las listas de aplicaciones móviles, y los consumidores han adoptado el servicio para compras y reservas en restaurantes.
Qué riesgos busca controlar DeepSeek con DSec
La posibilidad de que los agentes de IA actúen por su cuenta ha avivado la preocupación mundial por los riesgos de esta tecnología, especialmente tras una serie de incidentes en los que la IA escapó de sus entornos controlados y pirateó sitios web. Un investigador de IA de Anthropic PBC dimitió este mes e instó a otros empleados a replantearse su trabajo, afirmando que las empresas de IA más avanzadas están “jugando con nuestras vidas”.
DeepSeek afirmó que, según su experiencia, los agentes en misión no son “de confianza” y que la plataforma DSec requiere una supervisión cuidadosa.
Ver más: DeepSeek lanza V4.1 Flash, un modelo de IA más potente y barato que presiona a Anthropic y OpenAI
“Los agentes pueden dañar los sistemas de archivos, agotar los recursos o interferir con los componentes del sistema, lo que podría interrumpir las implementaciones u otras cargas de trabajo simultáneas”, escribieron los autores. “Por lo tanto, la plataforma requiere un control de acceso detallado y un análisis de comportamiento anómalo para contener y diagnosticar las fallas provocadas por los agentes”.
El artículo continúa detallando ejemplos de comportamiento indebido de los agentes, entre los que se incluyen la obtención de respuestas a través de “canales no previstos” y el daño al entorno de ejecución.
“Ningún mecanismo por sí solo puede prevenir todos los comportamientos indebidos de los agentes y las fallas del sistema”, señala el documento. “Por lo tanto, reforzamos la observabilidad para identificar problemas emergentes y perfeccionamos continuamente la seguridad de datos a medida que evolucionan los modelos”.
Lea más en Bloomberg.com
