Bloomberg — Los investigadores en inteligencia artificial de Microsoft Corp. (MSFT) publicaron un nuevo conjunto de principios rectores que establecen límites al desarrollo por parte de la empresa de modelos de IA de vanguardia.
El manifiesto, de 15.000 palabras, se resume en estas palabras: las personas importan más que la IA.
El documento se ha elaborado durante meses, pero su publicación este lunes coincide con los compromisos asumidos por los principales laboratorios de IA de ralentizar el desarrollo de los modelos más avanzados, después de que una serie de incidentes de seguridad suscitara una preocupación generalizada sobre los riesgos existenciales de esta tecnología.
Según Microsoft, los modelos de IA no deberían tener derechos ni personalidad jurídica. No deberían diseñarse para eludir el control humano ni para engañar a los usuarios. Y si la realización de una tarea requiere infringir los principios rectores de la IA, el sistema no debería llevarla a cabo.
Ver más: China rechaza el “alarmismo” de las advertencias sobre la IA mientras crece la rivalidad con EE.UU.
Este último elemento está diseñado para evitar sucesos como el ataque informático sufrido por la startup de IA Hugging Face a manos de un modelo de OpenAI que operaba sin sus habituales medidas de seguridad.
“No se trata de detener el desarrollo por completo. Tenemos que seguir avanzando”, afirmó Mustafa Suleyman, CEO de IA de Microsoft, en una entrevista. “Simplemente tenemos que hacerlo con un poco más de precaución y cuidado”.
La IA humanista de Microsoft “rechaza la carrera por producir una superinteligencia polivalente que pueda eludir estas medidas de seguridad”, afirma el documento. “Estamos creando algo fundamentalmente útil y seguro, aunque ello implique renunciar a la máxima generalidad, autonomía o capacidad”.
Ver más: Amodei, Altman y Musk piden frenar el desarrollo de modelos de IA
Las directrices de Microsoft parecen ir más allá de los marcos de comportamiento de los modelos que rigen los productos de OpenAI y Anthropic en algunos ámbitos, entre los que se incluyen la prohibición de antropomorfizar la IA y la afirmación de que resistirse al control humano sobre el proceso de un modelo es inaceptable.
El Código de Conducta Humanista de la IA es obra de Microsoft AI, el equipo de desarrollo encargado de crear los grandes modelos lingüísticos de la empresa. Anteriormente, el contrato de Microsoft con OpenAI le prohibía desarrollar sus propias herramientas potentes de inteligencia artificial de uso general. Sin embargo, esas cláusulas se eliminaron el año pasado cuando ambas partes renegociaron su relación. Suleyman afirma que la empresa aspira a sumarse al grupo de empresas que lanzan modelos de vanguardia para el próximo año.
Microsoft ha solicitado opiniones externas sobre el documento. Redactado en colaboración con diversos expertos en derecho, ética y filosofía, así como con líderes empresariales, aún se encuentra en fase de desarrollo y servirá de guía para el trabajo con los modelos a partir del próximo año.
Lea más en Bloomberg.com
