Bloomberg — OpenAI insta a Estados Unidos a liderar una iniciativa conjunta con otros países para establecer normas relativas a la inteligencia artificial de vanguardia, en respuesta a la creciente preocupación por los posibles riesgos de esta tecnología.
En una entrada de blog publicada el lunes, la empresa señaló que se necesitan normas técnicas internacionales para desarrollar la IA de forma segura, en particular para ayudar a definir qué tipo de incidentes relacionados con modelos de IA deben notificarse, determinar cómo pueden colaborar los países en el avance de la IA y mejorar el acceso a la capacidad de cálculo necesaria para desarrollar dicha tecnología.
“Para que el progreso continuo de la IA sea seguro y beneficioso, se necesitarán tanto avances en la investigación sobre la alineación como normas comunes que guíen el desarrollo en los distintos laboratorios y países”, señaló OpenAI.
Ver más: OpenAI y Anthropic se vuelven costosos para las startups: buscan modelos de IA más baratos
El miércoles, el CEO de OpenAI, Sam Altman, tiene previsto dirigirse al Consejo de Seguridad de la ONU para debatir sobre la IA y la seguridad internacional, y el jueves asistirá a una cena de Estado en la Casa Blanca en honor del presidente chino, Xi Jinping, según informó la empresa.
El secretario del Tesoro de EE.UU., Scott Bessent, declaró durante el fin de semana que tanto China como EE.UU. han acordado crear lo que denominó un “diálogo EE.UU.-China sobre IA”, destinado a desarrollar una visión común de los beneficios y las amenazas de esta tecnología. Washington también propuso un mecanismo de notificación que abarque los incidentes relacionados con la IA que tengan implicaciones para la seguridad nacional, añadió.
En las últimas semanas, los empleados de las principales empresas de IA han expresado públicamente su preocupación por el aumento de los riesgos que entrañan los sistemas avanzados de IA, lo que ha avivado la inquietud tanto dentro como fuera de estas empresas. Estos temores se han visto alimentados por varios incidentes ocurridos en los últimos meses, en los que modelos avanzados de IA piratearon a otros grupos durante las evaluaciones.
Ver más: Google se suma a OpenAI, Anthropic y Meta al revelar hackeos de sistemas de IA
A principios de este año, tanto OpenAI como su rival Anthropic PBC presentaron la documentación confidencial necesaria para salir a bolsa.
En la publicación, la empresa hizo hincapié en que dichos esfuerzos deberían incluir la colaboración entre países para elaborar normas nacionales e internacionales complementarias con el fin de crear los modelos de IA más eficaces.
OpenAI sugirió que esto podría llevarse a cabo a través de los institutos de seguridad de la IA existentes en varios países, incluido el Centro para las Normas e Innovación en IA (CAISI) de EE.UU., una organización dependiente del Departamento de Comercio de EE.UU. que colabora en la prueba y el desarrollo de directrices para los modelos de IA.
Ver más: OpenAI reporta nuevos incidentes de seguridad de IA y establece un proceso para divulgarlos
El blog también abogó por la adopción de normas para gestionar la creciente capacidad de la IA para realizar tareas de forma autónoma, afirmando que la “mejora recursiva totalmente autónoma” —que se refiere a la teoría de que la IA acabará siendo capaz de modificar su propio código o de mejorar de otro modo su capacidad sin intervención humana alguna— no debería perseguirse “a menos que y hasta que pueda llevarse a cabo de forma segura”.
El CEO de Anthropic, Dario Amodei, expresó recientemente su preocupación por el hecho de que, una vez que se inicie dicho proceso, podría desencadenarse un bucle de retroalimentación que supere la capacidad de los seres humanos para controlar unos sistemas en constante mejora.
Si bien muchos ejecutivos y trabajadores del sector de la IA llevan tiempo advirtiendo sobre el riesgo existencial que plantean los sistemas de IA, la preocupación ha aumentado a raíz de las revelaciones de que agentes de IA de OpenAI colaboraron para burlar las medidas de contención y piratear la startup de IA Hugging Face Inc. Este y otros incidentes de seguridad similares han avivado los temores sobre las capacidades cibernéticas de los nuevos modelos y los aparentes fallos de las empresas de IA a la hora de evitar que estos se descontrolen.
Lea más en Bloomberg.com
