Bloomberg — OpenAI se ha asociado con Bugcrowd Inc. para poner en marcha un programa de recompensas por fallos. El programa invita a la gente a informar de debilidades, fallos o problemas de seguridad que encuentren al utilizar los productos de IA de OpenAI, incluido el popular chatbot ChatGPT. La empresa pagará recompensas en metálico que oscilarán entre los US$200 por hallazgos de baja gravedad y los US$20.000 por descubrimientos excepcionales.
Según OpenAI, la “transparencia y la colaboración” son fundamentales para encontrar vulnerabilidades en su tecnología. Por ello, cree que el programa de recompensas por fallos es necesario para mantener la integridad de su tecnología. La empresa espera que el programa anime a los usuarios a informar de cualquier problema que encuentren, ayudando a la empresa a mejorar la seguridad y fiabilidad de sus sistemas de IA.
Los programas de recompensas por fallos son habituales en el sector tecnológico.
“Esta iniciativa es una parte esencial de nuestro compromiso con el desarrollo de una IA segura y avanzada”, afirmó Matthew Knight, responsable de seguridad de OpenAI. “A medida que creamos tecnología y servicios seguros, fiables y dignos de confianza, nos gustaría contar con tu ayuda”.
El anuncio no es una completa sorpresa. Greg Brockman, presidente y cofundador de la empresa con sede en San Francisco, mencionó recientemente en Twitter que OpenAI había estado “considerando iniciar un programa de recompensas” o una red de “equipos rojos” para detectar puntos débiles.
Hizo este comentario en respuesta a un post escrito por Alex Albert, un joven de 22 años aficionado a escribir instrucciones para eludir las salvaguardias que los chatbots como ChatGPT tienen instaladas.
“Una de las razones por las que desplegamos estos modelos es la democratización de los equipos rojos”, escribió Brockman.
Lea más en Bloomberg.com
