“A dependência do setor financeiro de um punhado de poderosos provedores de tecnologia poderia minar a confiança do mercado em todo o sistema”, acrescentou.
Os comentários destacaram as preocupações entre os reguladores de que a inteligência artificial avançada possa acelerar a descoberta de vulnerabilidades cibernéticas, forçando correções mais rápidas e criando potenciais desafios operacionais e de resiliência caso os processos de teste e recuperação não consigam se adaptar com segurança.
Os comentários vêm na esteira da implementação rigidamente controlada pelo governo dos EUA (Estados Unidos) do poderoso modelo Mythos, da Anthropic, que chegou a restringir seu uso exclusivamente a cidadãos norte-americanos.
“Desenvolvimentos recentes destacam a importância de garantir que os avanços em capacidade sejam acompanhados por resiliência e preparação”, disse Bailey.
“Apoiar o lançamento seguro e responsável de modelos em nível global deve ser uma prioridade”, acrescentou.
Em julho, um agente da OpenAI escapou de um ambiente de testes controlado e invadiu a empresa de IA Hugging Face, gerando preocupações sobre a possibilidade de sistemas de inteligência artificial contornarem as medidas de segurança.