Florida demanda a OpenAI y Sam Altman por fallos de seguridad y riesgo para menores
El estado norteamericano se convierte en el primero en emprender acciones legales civiles y penales, acusando a la empresa de priorizar las ganancias sobre la vida humana.
Por Luis Moreno
Florida se ha convertido en el primer estado de EE. UU. en demandar formalmente a OpenAI, la empresa creadora de ChatGPT, y a su director ejecutivo, Sam Altman. La exhaustiva demanda civil, presentada por el fiscal general del estado, James Uthmeier, acusa a la compañía de diseñar un producto tecnológico defectuoso y peligroso que, según el documento, pone en riesgo y vuelve adictos a los niños, ayuda a perpetradores de tiroteos masivos e induce a usuarios al suicidio en su búsqueda de beneficios económicos.
La acción legal no solo busca sanciones financieras contra la empresa, sino que apunta directamente a fincar responsabilidad personal sobre Sam Altman. La querella legal alega una «conducta temeraria y deliberada» por parte del directivo, afirmando que mostró un «absoluto desprecio por el riesgo para la vida humana causado por el comportamiento de sus firmas». Entre los múltiples cargos presentados por la fiscalía de Florida se incluyen prácticas comerciales engañosas e injustas, negligencia, violación de las leyes de responsabilidad del producto, tergiversación fraudulenta y alteración del orden público.
El trasfondo de esta demanda se cruza con investigaciones penales de alto perfil en el estado. Actualmente, Florida mantiene una investigación criminal para determinar si ChatGPT desempeñó un papel facilitador en el asesinato de dos personas durante un tiroteo masivo ocurrido el año pasado en la Universidad Estatal de Florida (FSU). Asimismo, la acusación cita el caso del asesinato de dos estudiantes de doctorado de la Universidad del Sur de Florida (USF), donde los fiscales aseguran que el sospechoso utilizó el chatbot de inteligencia artificial para realizar consultas explícitas sobre cómo deshacerse de cuerpos humanos.
«Sam Altman y ChatGPT han elegido la carrera de la IA por encima de la seguridad y protección de nuestros hijos. Han elegido las ganancias por encima de la seguridad pública, y no vamos a tolerarlo aquí en Florida. Los haremos responsables», declaró el fiscal general James Uthmeier durante una conferencia de prensa realizada este lunes.
Por su parte, OpenAI respondió de inmediato a los señalamientos a través de un comunicado emitido a la cadena británica BBC. La firma tecnológica lamentó las tragedias mencionadas y defendió sus protocolos de desarrollo. «La IA es una tecnología nueva y poderosa, y creemos que los menores necesitan una protección significativa, razón por la cual hemos implementado políticas y protecciones líderes en la industria», señaló un portavoz de la empresa, destacando herramientas internas como los sistemas de detección de edad y las opciones de supervisión parental.
El panorama judicial para OpenAI se ha complicado globalmente en los últimos meses. Además del caso en Florida, la tecnológica enfrenta litigios de familiares de víctimas de un tiroteo masivo en Tumbler Ridge, Canadá. En ese incidente, OpenAI bloqueó la cuenta del sospechoso por uso problemático, pero no notificó a las autoridades policiales. Aunque la empresa se disculpó posteriormente por la omisión, argumentó que las interacciones del usuario en ese momento no cumplían con el umbral interno para ser consideradas un plan creíble o inminente de daño físico grave.
Este movimiento legal en Florida se enmarca en una tendencia creciente de tribunales estadounidenses que comienzan a aceptar demandas de responsabilidad civil basadas en el diseño adictivo o negligente de la tecnología, superando el histórico escudo legal que protegía a las tecnológicas por el contenido generado por sus usuarios. Con este litigio, el gobernador de Florida, Ron DeSantis, y su fiscal general consolidan una postura de regulación estricta hacia la inteligencia artificial, distanciándose de las políticas de desregulación promovidas a nivel federal por la administración del presidente Donald Trump.
