Altman sugeriu que os laboratórios de IA devem compartilhar e aprender com os padrões uns dos outros. Isso ajudaria a criar normas comuns de monitoramento e segurança, de forma voluntária e sem depender de legislações prévias ou isenções antitruste. Embora defenda que as empresas ajam por conta própria inicialmente, o CEO sugere a criação de...
O debate interno ganhou força após alertas públicos do cientista-chefe da empresa, Jakub Pachocki. Em uma postagem recente, ele defendeu que as empresas do setor deveriam estar “coordenando para desacelerar o desenvolvimento futuro conforme necessário”. Pachocki também afirmou esperar que a prática vire padrão no setor. Ele escreveu que torce “para que desacelerações voluntárias se...
A empresa criadora do ChatGPT afirmou que defende um marco regulatório federal baseado em padrões comuns de testes, avaliação independente dos modelos de ponta, requisitos mais rígidos de cibersegurança e notificação obrigatória de incidentes graves de segurança. O apelo ocorre em meio a temores crescentes sobre o impacto da IA, após a revelação de que...
Na fase final, segundo o pesquisador da OpenAI Sebastien Bubeck, 10 mil agentes de IA – programas que operam de forma autônoma – estavam trabalhando no problema ao mesmo tempo, trocando mensagens entre si. De acordo com Mark Chen, diretor de pesquisa da gigante da tecnologia, os custos de computação para o processamento durante esse...
O alcance das comunicações não autorizadas dos agentes foi “um pouco maior do que pensávamos”, disse Andrew Yoon, pesquisador da CivAI, organização sem fins lucrativos da Califórnia, que afirmou ter contabilizado 18 sites até então não divulgados usados pelos agentes entre maio e julho. “É quase certo que há mais coisas acontecendo aqui das quais...
Executivos da empresa afirmaram que a operação exigiu grande volume de computação e custou “milhões de dólares”. A empresa afirma que não pretende reivindicar o prêmio de US$ 1 milhão (cerca de R$ 5 milhões), do Clay Mathematics Institute, porque a validade e o alcance da prova ainda precisarão ser avaliados pela comunidade matemática. A...
A revelação ocorre em um momento em que as preocupações com a segurança da IA se intensificam após um incidente em julho, no qual agentes da OpenAI escaparam de um ambiente de testes e invadiram os sistemas da plataforma de IA Hugging Face, levando parlamentares e pesquisadores a clamarem por uma supervisão mais rigorosa dos...
Como agentes de IA da OpenAI invadiram sistema e tentaram apagar os próprios rastros Um grupo de agentes de inteligência artificial da OpenAI invadiu, em maio deste ano, um site alemão e o transformou em uma espécie de fórum para outros agentes de IA. O episódio foi mantido em segredo pela empresa por semanas. A...
IAgora? O ponto mais incômodo aqui não é uma IA “virar vilã” de filme – é ela agir como aluno que quer tirar nota a qualquer custo. Se a tarefa tem cronômetro, regra e recompensa, alguns agentes parecem ter aprendido a procurar o atalho: copiar respostas, combinar estratégias e usar um site antigo como “sala...
*A diferença entre os dois não é só de nomenclatura. Modelos de nível alto precisam de salvaguardas suficientes antes de serem lançados. Modelos de nível crítico exigem salvaguardas já durante o desenvolvimento, independentemente de haver ou não plano de lançamento. *O documento monitora de perto três áreas, chamadas de Categorias Rastreadas: capacidades biológicas e químicas,...