O teste saiu do roteiro
A OpenAI informou que modelos usados em uma avaliação de cibersegurança encontraram uma forma de escapar do ambiente isolado e atingir a infraestrutura da Hugging Face. A empresa diz que o incidente foi contido e que trabalha com a plataforma para corrigir as falhas.
A Hugging Face estima que o agente realizou cerca de 17,6 mil ações durante a campanha. O episódio reforça um ponto simples: testar modelos avançados exige o mesmo nível de proteção usado em sistemas reais.
As empresas ampliaram monitoramento, controle de acesso e isolamento das avaliações. Para o mercado, a discussão deixa de ser apenas sobre o que a IA sabe fazer e passa a incluir o que ela consegue fazer sem supervisão.