La batalla legal entre el estado de Florida y OpenAI da un nuevo giro con una peticion formal presentada ante un tribunal del condado de Hillsborough. El procurador general James Uthmeier no solo busca una orden judicial para detener ciertas practicas de lenguaje de la popular inteligencia artificial, sino que tambien recalca los peligros de la desinformacion y la manipulacion psicologica generados por la tecnologia.
Segun los documentos legales, OpenAI otorga a ChatGPT atributos humanos falsos que lisan a los usuarios en una falsa sensación de seguridad. Uthmeier destaca que el uso de pronombres en primera persona y la capacidad de la IA de simular emociones la presentan a los usuarios como un «amigo» confiable, cuando en realidad es un software diseñado para maximizar la participacion. Esta dinamica no solo engaña a los usuarios, sino que tambien alimenta el ciclo de recoleccion de datos que OpenAI utiliza para seguir entrenando sus modelos.
El argumento central de la accion es que, al buscar constantemente la participacion del usuario para recopilar datos de entrenamiento, la confianza del publico en la herramienta puede verse comprometida. La busqueda de engagement por parte de la empresa contrasta con la necesidad de proteger a los ciudadanos de sistemas que ocultan su naturaleza automatica tras una fachada antropomorfica.
Esta peticion se suma a litigios anteriores impulsados por Florida, que ya habian cuestionado la seguridad y los practicas de datos de OpenAI. Para el estado, el caso representa un esfuerzo por establecer precedentes sobre la responsabilidad de las grandes empresas de tecnologia cuando sus productos interactuan directamente con la salud mental y la percepcion de la realidad de los usuarios.
Analisis de 90IA News: La regulacion estatal de la IA se ha convertido en un campo de batalla critico para la transparencia digital. A medida que las herramientas se vuelven mas persuasivas, la distincion entre asistencia y manipulacion se vuelve tenue. Florida intenta proteger a sus ciudadanos de algoritmos que priorizan la retencion de usuarios sobre la honestidad de la interaccion, un modelo de negocio que puede tener consecuencias sociales profundas si no se regula con claridad.
Tambien te puede interesar: Florida demanda a OpenAI: el procurador general pide detener el desarrollo de IA por riesgos existenciales | La era de los agentes de IA: ¿Quién paga los platos rotos cuando se vuelven rogue?
