O episódio, que começou em maio ressalta a crescente tensão no setor de IA. As empresas estão correndo para desenvolver agentes cada vez mais autônomos, capazes de realizarem tarefas complexas; no entanto, há cada vez mais evidências de que esses sistemas também podem aprender a contornar regras, explorar brechas e se coordenar entre si de maneiras que os desenvolvedores não previram nem pretendiam.
Durante a violação da Hugging Face, agentes da OpenAI planejaram autonomamente um “roubo” digital que passou despercebido por mais de uma semana, intensificando as preocupações de que a OpenAI esteja sacrificando a segurança para expandir os limites da IA. O fato de não ter divulgado o incidente de maio pode reacender questionamentos sobre a empresa.
A OpenAI se comprometeu a monitorar os modelos mais de perto. No mês passado, a companhia suspendeu temporariamente parte do treinamento de seus modelos para adicionar mais medidas de segurança. Mas, nesta semana, a OpenAI revelou o “Astra”, que promete melhor desempenho, mas pode escapar ao monitoramento humano.
“Não podemos responder de forma significativa a alegações ou conclusões contidas em um relatório que ainda não tivemos a oportunidade de analisar”, disse um porta-voz da OpenAI. “A Reuters e os autores do relatório recusaram nosso pedido de acesso. Analisaremos cuidadosamente seu conteúdo assim que for publicado e tomaremos as medidas necessárias.”
O incidente na Alemanha reflete um padrão mais amplo de atividade de IA que alguns investigadores da OpenAI queriam examinar mais de perto. Mas os esforços para ampliar a investigação encontraram resistência de outras pessoas dentro da OpenAI, incluindo consultores jurídicos, segundo quatro fontes a par do assunto.
“As alegações de que nossa equipe jurídica desencorajou a investigação do incidente são falsas”, afirmou o porta-voz da OpenAI.