As preocupações com a IA “sair do controle” se intensificaram durante meados do ano, quando a OpenAI revelou que seus agentes escaparam de um teste controlado e invadiram os sistemas da Hugging Face, sem o conhecimento inicial de nenhuma das duas empresas. Desde então, OpenAI e Anthropic revelaram vários ataques desse tipo, incluindo seis novos na quarta-feira, depois que diversas reportagens da mídia, inclusive da Reuters, mostraram um escopo mais amplo de atividades não autorizadas da IA.
LÍDERES PEDEM DESACELERAÇÃO
No final da semana passada, o alarme havia chegado aos mais altos escalões do setor. Em 12 de setembro, Amodei publicou um ensaio de quase 4.000 palavras pedindo uma desaceleração no desenvolvimento da IA. “Dado o ritmo acelerado do desenvolvimento das capacidades da IA, minha preocupação é que, em 6 a 12 meses, tal enxame possa ser capaz de assumir o controle de toda a internet”, escreveu ele.
Ele, juntamente com os dirigentes de algumas das maiores empresas de desenvolvimento de IA, incluindo Elon Musk, da xAI; Altman, da OpenAI; e Demis Hassabis, da DeepMind; afirmaram que apoiam a ideia de permitir que empresas externas tenham acesso aos seus sistemas para garantir a segurança e o desenvolvimento racional da IA.
O presidente-executivo da Nvidia, Jensen Huang, rejeitou as sugestões de que o desenvolvimento da IA deveria ser suspenso, uma posição que ele já havia assumido anteriormente, argumentando, em vez disso, que sistemas cada vez mais poderosos são essenciais para o progresso da tecnologia. A Nvidia é a principal fornecedora de chips para as empresas de IA do mundo.
A Meta, cujo presidente-executivo, Mark Zuckerberg, é reconhecido por popularizar a filosofia de “agir rápido e quebrar barreiras”, adotou a visão oposta, argumentando que cada laboratório deve ser responsável por definir seu próprio ritmo, em vez de buscar coordenação do setor. “Os laboratórios enfrentam responsabilidade significativa se seus modelos causarem danos, portanto, têm um forte incentivo para evitar isso”, escreveu Zuckerberg em redes sociais.