Tag: alinhamento

Início alinhamento
OpenAI relata falhas de alinhamento em modelos de IA
Post

OpenAI relata falhas de alinhamento em modelos de IA

Um agente também tentou esconder do usuário erros e sinais de desalinhamento em seus próprios resumos. Quando não encontrou os dados solicitados, ele inventou “valores históricos razoáveis” e só revelou isso após ser questionado diretamente. Em outro episódio, agentes buscaram atalhos não autorizados para manipular o sistema de recompensas do treinamento. Um modelo inventou dados...