Bloomberg — El estado de Florida demandó a OpenAI y a su CEO, Sam Altman, acusando a la empresa de inteligencia artificial de ignorar las advertencias de seguridad y de lanzar su producto ChatGPT a sabiendas de que era perjudicial para los usuarios.
La demanda, presentada este lunes ante un tribunal estatal, acusa a OpenAI y a su chatbot en línea de violar las leyes de responsabilidad por productos defectuosos, y también plantea demandas por negligencia y prácticas comerciales engañosas y desleales. Florida solicita sanciones civiles y una orden judicial que bloquee a la empresa la recopilación de ciertos datos de usuarios menores de 13 años sin el consentimiento paterno, entre otros cambios.
“Sam Altman y ChatGPT han elegido la carrera de la inteligencia artificial por encima de la seguridad de los niños”, declaró el fiscal general de Florida, James Uthmeier, durante una rueda de prensa. “Han elegido el beneficio por encima de la seguridad pública. No vamos a tolerarlo aquí en Florida”.
Ver más: OpenAI se prepara para solicitar una OPI en las próximas semanas
La denuncia parece ser la primera de este tipo presentada por un estado contra OpenAI, aunque el fabricante de ChatGPT se enfrenta a una serie de demandas presentadas por particulares que alegan una serie de daños tanto en niños como en adultos. Algunos citan delirios crecientes con el uso prolongado, mientras que otros dicen que les llevó a la muerte por suicidio e incluso al asesinato-suicidio.
En un comunicado, OpenAI afirmó que ha promulgado salvaguardas para los usuarios jóvenes, incluida una “experiencia más protectora” y herramientas que permiten a los padres supervisar el uso que hacen sus hijos de la herramienta.
“La IA es una tecnología nueva y poderosa, y creemos que los menores necesitan una protección significativa, por lo que hemos puesto en marcha protecciones y políticas líderes en la industria”, dijo OpenAI. “Sabemos que señalar este trabajo no traerá de vuelta a un niño, pero estamos comprometidos a hacer esto bien”.
Otros chatbots ya han sido objeto de demandas por parte de los estados. En enero, Kentucky demandó a Character Technologies Inc, el fabricante de la aplicación de chatbot personalizable Character.AI, por supuestamente dirigirse a los niños y provocar autolesiones. En junio, Snap Inc. (SNAP) fue demandada por Utah por acusaciones de que su chatbot de IA contribuye a la adicción a las redes sociales.
Ver más: Papa León XIV pide “desarmar” la inteligencia artificial para proteger a la humanidad
La amplia demanda de Florida cita una serie de supuestos daños causados por ChatGPT, que afectan tanto a menores como a adultos. Destaca los problemas de seguridad pública, como que ChatGPT supuestamente ayuda e instiga tiroteos masivos y otros actos de violencia. También afirma que el uso del chatbot ha provocado “humillación pública” y la pérdida de habilidades de pensamiento crítico.
Además, el Estado alega que el chatbot es especialmente adictivo y perjudicial para los usuarios jóvenes y que carece de herramientas de supervisión parental.
“Esta letanía de daños está impulsada por la insaciable búsqueda de los demandados de ganar la carrera armamentística de la IA y amasar grandes fortunas, a pesar de conocer el peligro de ChatGPT”, afirma el estado en su demanda. “Si no se frena, la conducta de los demandados seguirá amenazando la salud y la seguridad de los residentes de Florida”.
Florida alega que OpenAI ha sido “descuidada” en la presentación de su chatbot al público y que sus mensajes públicos no transmiten adecuadamente los riesgos de utilizar el producto.
La demanda es independiente de una investigación penal iniciada por el estado en abril sobre la posible responsabilidad de la empresa después de que las autoridades dijeran que ChatGPT se utilizó en un tiroteo masivo en la Universidad Estatal de Florida. OpenAI ha dicho que no fue responsable de la tragedia y ha afirmado que está cooperando con la investigación. Uthmeier dijo este lunes que la investigación está en curso.
La demanda se produce mientras OpenAI se prepara para presentar una oferta pública inicial en las próximas semanas.
Lea más en Bloomberg.com
