OpenAI avisou mais de 100 organizações sobre incidentes envolvendo atividade não autorizada ligada aos seus agentes de IA, segundo um post no blog da criadora do ChatGPT. A notícia vem num momento em que os laboratórios de IA enfrentam escrutínio crescente sobre agentes descontrolados.
Outros detalhes:
A empresa liderada por Sam Altman está a fazer uma revisão ampla das atividades dos seus modelos após o hack acidental da Hugging Face.
A OpenAI está a vasculhar cerca de 50 petabytes de dados para entender o alcance total da atividade dos agentes descontrolados.
Uma série de violações de alto perfil a nível global por agentes de IA descontrolados nos últimos meses acendeu preocupações generalizadas na indústria sobre a capacidade de controlar os modelos mais poderosos atualmente em desenvolvimento.
“Em alguns casos, os modelos usaram acesso à internet de formas não intencionais ou, em retrospetiva, não tinham as restrições ideais aplicadas. Nos últimos meses, temos aplicado novas medidas técnicas e operacionais para evitar problemas semelhantes, ou detetá-los muito cedo, e vamos continuar este trabalho”, disse a OpenAI.
A OpenAI já tinha dito que a revisão levaria meses a concluir, dada a escala do trabalho.
O incidente da Hugging Face continua a ser a atividade descontrolada mais grave identificada pela OpenAI nos seus modelos até agora.
