Demanda en Florida acusa a OpenAI y Sam Altman de ocultar peligros de seguridad de ChatGPT

Florida emprendió acciones legales el lunes contra OpenAI y su director ejecutivo, Sam Altman, acusándolos de anteponer ChatGPT al público mediante una promoción agresiva mientras retenían información sobre importantes preocupaciones de seguridad.

En una rueda de prensa, el fiscal general de Florida, James Uthmeier, alegó que OpenAI ocultó a los usuarios alertas internas de riesgo y engañó al público sobre qué era ChatGPT y las amenazas que podía plantear.

"Hoy anunciamos la primera demanda estatal del país contra OpenAI y su director ejecutivo, Sam Altman", dijo Uthmeier. "OpenAI y Altman ignoraron advertencias de seguridad internas y externas, pusieron a los niños en grave riesgo y permitieron que un producto peligroso llegara a millones de floridanos".

La demanda civil, presentada ante un tribunal de circuito de Florida, sostiene que OpenAI y Altman eligieron un despliegue rápido y el crecimiento empresarial por encima de la protección del consumidor. Afirma que las advertencias de especialistas dentro y fuera de la empresa fueron desestimadas reiteradamente.

Según la presentación judicial, OpenAI lanzó una herramienta que puede facilitar e impulsar conductas dañinas, incluidas autolesiones y violencia, aun cuando se ofrecían garantías a los usuarios de que era segura.

La demanda también afirma que ChatGPT recopila información de niños sin un control parental significativo y contribuye a la dependencia conductual y al daño cognitivo. Además acusa a la empresa de minimizar errores peligrosos.

Funcionarios de Florida dijeron que la ley estatal prohíbe las prácticas comerciales injustas y defectuosas. La querella argumenta que las acciones de OpenAI siguen perjudicando a los floridanos y pide que la empresa y Altman rindan cuentas.

OpenAI no respondió de inmediato a un correo electrónico de Associated Press solicitando comentarios.

Uthmeier había iniciado en abril una investigación penal sobre OpenAI, examinando si ChatGPT proporcionó orientación a un hombre armado que mató a dos personas e hirió a otras seis el año pasado en Florida State University. En un asunto separado, los fiscales han dicho que el hombre acusado de matar a dos estudiantes de doctorado de University of South Florida había preguntado a ChatGPT qué ocurriría si un cuerpo humano era colocado en una bolsa de basura y arrojado en un contenedor, días antes de que los estudiantes desaparecieran.