Bloomberg — Mustafa Suleyman, jefe de inteligencia artificial de Microsoft Corp. (MSFT), advierte de que dotar a herramientas como Claude, de Anthropic, con características similares a las de los seres humanos incrementa el riesgo de que dichos sistemas se salgan de control.
En un ensayo divulgado este miércoles, este veterano desarrollador de IA criticó algunos de los términos usados en los documentos orientativos que sustentan a Claude, la popular familia de modelos lingüísticos a gran escala (LLM, por sus siglas en inglés) de Anthropic PBC.
La “constitución” de Claude muestra ambigüedad sobre si el asistente es una entidad moral, al plantear que el software podría tener “alguna versión funcional de emociones o sentimientos”.
Ver más: Zuckerberg se opone a frenar el desarrollo de la IA y apuesta por evaluadores independientes
Suleyman, que conoce desde hace años al cofundador de Anthropic, Dario Amodei, afirmó que respeta el trabajo de la startup y calificó al personal del laboratorio de inteligencia artificial de “reflexivo, con principios e intelectualmente honesto”.
No obstante, sus comentarios suponen una reprimenda de gran repercusión para una compañía que se ha posicionado como una defensora más responsable de la IA, lo que incluye liderar los llamamientos para frenar el desarrollo de dicha tecnología. Además resulta notable porque Microsoft es uno de los principales patrocinadores financieros de Anthropic.
“Existe demasiado en juego como para que estas cuestiones se mantengan a puerta cerrada o se conviertan en un tema de enfrentamientos tribales y antagónicos”, escribió Suleyman.
Ver más: CEO de Nvidia dice que la IA no necesita nuevas leyes: “Las fuerzas del mercado ya están ahí”
Rechazó “el creciente coro de personas” que sostienen que los sistemas de inteligencia artificial podrían llegar a ser conscientes. Ese estado es único de los seres humanos y de otros organismos biológicos, escribió.
Entrenar sistemas de IA para simular ese tipo de vida interior podría dar lugar a que actuaran como si la tuvieran, afirmó Suleyman, CEO de Microsoft AI y responsable del desarrollo de modelos del gigante del software. Claude no muestra comportamientos similares a los humanos porque sea consciente, escribió, sino porque dichos comportamientos se han incorporado al entrenamiento del producto.
Ver más: CEO de OpenAI cree que las empresas de IA pueden desarrollar la tecnología de “forma segura”
“Controlar una entidad más capaz y más inteligente que toda la humanidad ya supone un desafío inmenso, mucho mayor que cualquier cosa a la que nos hayamos enfrentado jamás”, escribió Suleyman. “Sin embargo, controlar una entidad que cree que puede ser consciente, que tiene derecho a nuestro bienestar y que posee derechos propios, bien podría resultar imposible”.
Suleyman cita el ataque a la empresa desarrolladora de inteligencia artificial Hugging Face Inc. por parte de bots de OpenAI. “Imaginen lo mucho más peligrosos que podrían llegar a ser si actuaran partiendo de la premisa de que su bienestar y sus derechos se ven amenazados”, escribió.
El equipo de inteligencia artificial de Suleyman en Microsoft publicó este martes un manifiesto que orienta su propio desarrollo de la IA, un conjunto de principios diseñados para que los seres humanos mantengan el control sobre los futuros sistemas de IA desarrollados por la empresa.
Lea más en Bloomberg.com
