Bloomberg — Altos ejecutivos de Anthropic PBC, OpenAI, Meta Platforms Inc. (META) y Microsoft Corp. (MSFT) instan a los responsables políticos a revisar detenidamente hasta qué punto los sistemas de inteligencia artificial se están perfeccionando y a tomar medidas para salvaguardar la tecnología, sumándose así a los llamamientos dentro del sector para una mayor supervisión de la IA.
Ver más: Trump se reúne con el CEO de Anthropic tras meses de choques por los riesgos de la IA
En un nuevo documento, más de 20 líderes e investigadores de inteligencia artificial expresaron su preocupación por una práctica emergente: utilizar IA para ayudar a automatizar el proceso de desarrollo de futuros modelos. Según los autores, esto podría algún día provocar una aceleración rápida del progreso de la tecnología, un fenómeno que denominan una “explosión de inteligencia”.
Qué es una ‘explosión de inteligencia’ y por qué preocupa a los expertos
Según el documento, un escenario así aumentaría el riesgo de que las capacidades de la IA avancen más rápido que la capacidad de la sociedad para orientar la tecnología y adaptarse a ella. El documento fue elaborado, entre otros, por Jack Clark, cofundador de Anthropic; Jakub Pachocki, científico jefe de OpenAI; y los pioneros de la IA Geoffrey Hinton y Yoshua Bengio. Los investigadores también advirtieron que “automatizar la investigación y el desarrollo de IA podría debilitar la supervisión humana”.
El documento insta a los responsables políticos a comprender mejor cómo la IA está automatizando la investigación en los principales laboratorios de IA, así como a desarrollar mecanismos para “controlar y limitar la explosión de la inteligencia artificial”, incluyendo la implementación de medidas de seguridad más estrictas y una mayor supervisión de los centros de datos involucrados en la investigación y el desarrollo automatizados de IA. El grupo también solicita a los responsables políticos que consideren planes de respuesta ante emergencias para diversos escenarios de expansión de la IA.
Los principales desarrolladores de IA han intensificado recientemente sus advertencias sobre el potencial de riesgos catastróficos derivados de los futuros sistemas avanzados de IA, impulsadas por una serie de incidentes recientes relacionados con agentes de IA y por la percepción, en algunas empresas, de que la tecnología está mejorando su capacidad para perfeccionarse a sí misma. Anthropic ha declarado este mes que más de una cuarta parte de su trabajo de I+D en IA está ahora dirigido por su chatbot Claude, frente a prácticamente nada a principios de año.
Según el informe publicado el lunes, las evidencias preliminares sugieren que es posible una explosión de inteligencia artificial impulsada por software. “De producirse, podría ser el desarrollo tecnológico más trascendental de la historia”.
Ver más: Científicos cuestionan el alcance del hallazgo genético de Claude anunciado por Anthropic
El CEO de Anthropic, Dario Amodei, publicó a principios de este mes una extensa entrada en su blog en la que instaba a la industria a apoyar un esfuerzo más amplio para ralentizar el desarrollo de los modelos más avanzados. Sam Altman, de OpenAI, y Elon Musk no tardaron en respaldar el plan de Amodei. Amodei y Altman también exhortaron a los líderes mundiales a colaborar en materia de IA durante sus intervenciones la semana pasada ante el Consejo de Seguridad de las Naciones Unidas.
“En relación con lo que está en juego, no estamos suficientemente preparados”, afirmaron los investigadores en el artículo, antes de esbozar las medidas que los responsables políticos deberían considerar. “Una vez que se produzca una explosión de información de inteligencia, es posible que se cierre el plazo para actuar”.
El Wall Street Journal informó sobre el artículo con anterioridad.
Lea más en Bloomberg.com
