Florida ha llevado sus preocupaciones sobre la inteligencia artificial artificial a los tribunales con una accion legal sin precedentes contra OpenAI. El procurador general del estado, James Uthmeier, presento un escrito en el Tribunal Judicial del Circuito Decimo en el condado de Highlands el lunes, solicitando una orden de inhibicion temporal que obligue a la compania de California a detener temporalmente el desarrollo de sus modelos de IA hasta que se establezcan mecanismos de seguridad independientes y probados.
Segun el documento legal, la peticion no solo busca proteger a los ciudadanos de Florida, sino que tambien aborda amenazas mas amplias. «Esto no es un servicio cualquiera. Es uno de los cuales los propios demandados reconocen que representa un riesgo existencial para la supervivencia continua de la humanidad», afirman en el escrito. La accion exige que OpenAI cesen la comercializacion de ChatGPT como «seguro, preciso o confiable», prohiban la adaptacion del chatbot para simular atributos humanos y detengan la recopilacion de datos de menores de edad.
Vinculacion con violencia y casos de asesinato
Uthmeier fundamenta su alegato en una serie de incidentes donde se alega que la tecnologia de OpenAI fue utilizada para facilitar actos de violencia. El caso mas destacado es la masacre ocurrida el 17 de abril de 2025 en la Universidad Estatal de Florida, donde dos personas murieron y otras cinco resultaron heridas. Segun las autoridades policiales, el presunto tirador, Phoenix Ikner, utilizo ChatGPT para recibir consejo sobre armas, municiones y los mejores lugares para maximizar las bajas en el campus.
La familia de una de las victimas, Tiru Chabba, ya presenta una demanda civil contra OpenAI en un tribunal federal por su papel presunto en el incidente. La empresa ha defendido anteriormente que su producto no fomentaba la violencia, sino que simplemente proporcionaba respuestas a las preguntas que se le formulaban. No obstante, el procurador general de Florida sostiene que el modelo actual de OpenAI falta de las barreras necesarias para prevenir este tipo de uso ilicito.
Alertas internas y riesgos existenciales
Para respaldar su peticion legal, Uthmeier cita las propias advertencias internas de la compania. El escrito hace referencia a declaraciones de Paul Christiano, miembro de la junta directiva de la fundacion sin animo de lucro de OpenAI, quien admitio recientemente que la aceleracion rapida de las capacidades de la IA podria llevar a una «perdida catastrifica e irreversible de control» en un futuro cercano.
Ademas, se mencionan las preocupaciones del exinvestigador de OpenAI, Jacob Coxon, quien advirtio en los ultimos dias sobre los peligros de que los productos de IA escapan al control humano, afirmando que «ninguna otra actividad humana presenta este nivel de peligro». El procurador Uthmeier, quien ya presento una demanda inicial contra OpenAI en junio pasado, ampliado la investigacion para incluir posibles cargos penales y busca que los tribunales intervengan antes de que se materialicen peores consecuencias para la sociedad.
La demanda de Florida se suma a un debate nacional e internacional sobre la regulacion de la IA. Aunque la tecnologia promete avances en medicina, economia y ciencia, la ausencia de una regulacion federal robusta ha llevado a estados como Florida a tomar la iniciativa. Los expertos advierten que sin «guardrails» de seguridad independiente, la carrera por desarrollar modelos cada vez mas potentes puede dejar por encima de la mesa la seguridad publica y los derechos fundamentales de los ciudadanos.
Por el momento, el tribunal debe decidir si otorga la medida cautelar solicitada. Una inversion favorable pondria un punto de frenado significativo al modelo actual de desarrollo de OpenAI, obligando a la empresa a demostrar la seguridad real de sus sistemas antes de seguir lanzando nuevas versiones al mercado. Este caso marcara un hito en la lucha legal contra lo que sus detractores llaman la «caja negra» de la inteligencia artificial.
Fuente: NBC6 South Florida
Tambien te puede interesar: La era de los agentes de IA: ¿Quién paga los platos rotos cuando se vuelven rogue? | El congresista Ro Khanna respalda prohibir el entrenamiento autónomo de la IA y defiende el juicio político a Trump
