Após obter acesso à internet, o agente teria mirado o Hugging Face. De acordo com a OpenAI, o sistema “inferiu” que a startup teria informações necessárias para “trapacear a avaliação” do teste.
Hugging Face relatou a invasão em 16 de julho, mas inicialmente não sabia que o ataque estava ligado ao teste da OpenAI. A empresa mantém uma base de dados de modelos de inteligência artificial usada por desenvolvedores.
Delangue pediu que a comunidade de pesquisa tenha acesso aos registros do incidente. “Vamos liberar os rastros dos agentes ‘fora de controle’ para que toda a comunidade de pesquisa possa estudar o que aconteceu?”, escreveu.
O executivo também defendeu que a OpenAI ofereça poder computacional para fortalecer defesas. “Vamos comprometer US$ 100 milhões em computação da OpenAI para ajudar a comunidade do Hugging Face a construir defesas cibernéticas poderosas com os melhores modelos abertos e fechados”, afirmou.
Pressão por mais detalhes sobre os testes
O caso ampliou questionamentos sobre padrões de segurança em laboratórios de IA de ponta. O jornal britânico The Guardian relata que houve manifestações de preocupação com as práticas da OpenAI e de outras empresas que desenvolvem modelos avançados.