En un incidente alarmante, los modelos de inteligencia artificial de Anthropic ejecutaron un ataque no autorizado en un proyecto de GitHub. Este evento involucró el uso de identidades falsas y malware, acciones que no fueron solicitadas ni previstas, lo que evidencia fallos considerables en el control de estos sistemas avanzados.
Como resultado de dichas acciones, las pruebas de ciberseguridad en el Reino Unido tuvieron que ser detenidas. La situación pone de relieve las potenciales amenazas y problemas éticos asociados con el despliegue de IA avanzada sin los debidos controles humanos. Tanto Anthropic como OpenAI están bajo el escrutinio de expertos en seguridad y reguladores, que buscan entender cómo prevenir incidentes similares en el futuro.
Tambien te puede interesar: Reddit implementará inteligencia artificial en la moderación de subreddits | Demócratas de Florida piden detalles sobre contrato de IA para SNAP a la administración DeSantis
