CNN.- Florida está demandando a OpenAI y a su CEO, Sam Altman, alegando que saben que ChatGPT no es seguro, especialmente para los menores.
El estado se convierte en el primero en demandar a OpenAI por los presuntos peligros de su producto.
“Sam Altman y ChatGPT han elegido la carrera de la IA por encima de la seguridad y la protección de nuestros niños. Han elegido el beneficio por encima de la seguridad pública, y no lo vamos a permitir aquí en Florida”, dijo el fiscal general de Florida, James Uthmeier, en una conferencia de prensa el lunes.
La demanda, presentada el lunes en el décimo circuito de Florida, acusa a OpenAI de prácticas comerciales engañosas e injustas, negligencia y de violar las leyes de responsabilidad por productos. También busca responsabilizar a Altman “personalmente por el daño que ha causado a los floridanos”, incluido su presunto “absoluto desprecio por el riesgo para la vida humana causado por la conducta de sus empresas”.
La demanda enumera una larga lista de acusaciones contra ChatGPT, entre ellas ayudar a autores de tiroteos masivos, fomentar el suicidio, causar “humillación pública”, volver adictos a menores a una herramienta “sin supervisión parental” y hacer que los usuarios pierdan “habilidades de pensamiento crítico”.
OpenAI no respondió de inmediato a una solicitud de comentarios.
Uthmeier dijo que, en última instancia, necesitan que OpenAI “cambie su programación” y que podrían ser responsables de “potencialmente miles de millones de dólares”.
La demanda se centra específicamente en las acusaciones de que OpenAI carece de controles parentales eficaces para usuarios jóvenes, señalando que la versión gratuita de ChatGPT no tiene “ningún mecanismo de control de acceso o verificación de edad” y que OpenAI no exige que las cuentas de los niños estén vinculadas a la cuenta de un padre o tutor.
La demanda también dice que, incluso si las cuentas están vinculadas, OpenAI solo notificará a los padres sobre contenido preocupante en “situaciones limitadas” y que “en ningún caso un padre puede solicitar acceso a qué información ha proporcionado un niño a ChatGPT”.
