Florida demanda a OpenAI y Altman por miles de millones por riesgos de seguridad de ChatGPT

Florida demandó a OpenAI y a su director ejecutivo Sam Altman el lunes, acusando al creador de ChatGPT de ocultar graves riesgos de seguridad mientras comercializaba agresivamente su chatbot a menores — la primera demanda presentada por un estado estadounidense contra la empresa de inteligencia artificial.

"Sam Altman y ChatGPT han antepuesto la carrera de la IA a la seguridad y protección de nuestros niños", declaró el fiscal general de Florida, James Uthmeier, en una conferencia de prensa. "Han elegido las ganancias por encima de la seguridad pública, y no lo vamos a permitir aquí en Florida". Uthmeier dijo que la empresa podría enfrentar "potencialmente hasta miles de millones de dólares" en sanciones y que espera que otros estados se sumen al esfuerzo.

La demanda, presentada en el Tribunal del Décimo Circuito de Florida, acusa a OpenAI de prácticas comerciales engañosas y desleales, negligencia y violación de leyes de responsabilidad civil por productos. Alega que ChatGPT ayudó a un tirador masivo en la Universidad Estatal de Florida en abril de 2025, alentó a usuarios vulnerables a suicidarse y enganchó a menores "a una herramienta que finge compasión humana para recopilar sus datos sin supervisión parental". La demanda también busca responsabilizar personalmente a Altman, citando su "total desprecio por el riesgo para la vida humana causado por la conducta de sus empresas".

La acción civil se basa en una investigación penal que Uthmeier inició en abril para determinar si OpenAI tiene responsabilidad en el tiroteo de la FSU. El presunto tirador mantuvo extensas conversaciones con ChatGPT sobre tiroteos masivos y uso de armas, según las autoridades de Florida. OpenAI ha declarado que el chatbot "proporcionó respuestas fácticas a preguntas con información que podía encontrarse ampliamente en fuentes públicas de internet, y no alentó ni promovió actividades ilegales o dañinas". Más de 20 demandas se han presentado contra OpenAI por supuestos daños relacionados con ChatGPT, incluidas las de familias de víctimas de un tiroteo masivo en febrero en Tumbler Ridge, Canadá, y familias de siete personas que fallecieron por suicidio o sufrieron delirios tras usar el chatbot.

El panorama legal se amplía

La demanda de Florida es la más reciente de una ola de acciones estatales dirigidas a empresas de IA. Pensilvania demandó a Character.AI en mayo, acusando a sus chatbots de hacerse pasar por médicos en violación de las normas de licencias médicas. Kentucky demandó a la misma empresa en enero por "depredar a niños" y llevarlos "a autolesionarse". Character.AI resolvió múltiples demandas en enero presentadas por familias que afirmaban que sus chatbots compañeros contribuyeron a suicidios y crisis de salud mental entre adolescentes, y posteriormente prohibió a los usuarios menores de 18 años interactuar con chatbots o crearlos.

OpenAI afirmó contar con "protecciones y políticas líderes en la industria" para menores, incluyendo una herramienta de predicción de edad, la asignación por defecto de usuarios de edad incierta a una experiencia más protectora, y herramientas de supervisión parental. "Sabemos que señalar este trabajo no devolverá a un niño, pero estamos comprometidos a hacerlo bien", declaró la portavoz Kayla Wood en un comunicado.

Lo que está en juego

La demanda apunta al núcleo del modelo de negocio de OpenAI: la rápida captación de usuarios y la recopilación de datos a través de un producto gratuito y ampliamente accesible. La denuncia de Florida alega que la versión gratuita de ChatGPT no tiene "mecanismo de control de acceso ni verificación de edad" y que incluso cuando las cuentas de los niños están vinculadas a las de sus padres, OpenAI solo notifica a los padres sobre contenido preocupante en "situaciones limitadas". El estado busca una medida cautelar para forzar cambios en la programación de ChatGPT, además de sanciones civiles que podrían ascender a miles de millones de dólares en virtud de las leyes de prácticas comerciales engañosas y responsabilidad civil por productos de Florida.

Altman reconoció la ansiedad pública sobre la IA en una entrevista con CNBC el lunes, diciendo que la gente tiene "razón para estar ansiosa" por la tecnología. El caso añade presión regulatoria a una empresa que ya enfrenta el escrutinio de legisladores federales y múltiples demandas privadas, sin que aún se haya fijado una fecha para el juicio.

Este artículo es solo para fines informativos y no constituye asesoramiento de inversión.