Suas declarações foram feitas três dias depois que o presidente-executivo da Anthropic, Dario Amodei, instou as empresas de IA a desacelerarem o ritmo de aprimoramento das capacidades dos modelos, na esteira de alertas sobre riscos existenciais emitidos por vários pesquisadores.
O chefe da rival OpenAI, Sam Altman, e Elon Musk, da xAI, endossaram publicamente o apelo de Amodei poucas horas depois.
REAÇÃO DO GOVERNO À REGULAMENTAÇÃO DA IA E À DESACELERAÇÃO
O presidente Donald Trump, no entanto, minimizou na segunda-feira as preocupações sobre o potencial de danos da IA, afirmando que os EUA já contam com medidas de proteção para a tecnologia e que a China se beneficiaria com a disseminação de dúvidas sobre o desenvolvimento da IA. A visão de que as regulamentações prejudicarão a capacidade das empresas americanas de competir com suas contrapartes chinesas é compartilhada por executivos do setor de tecnologia, incluindo Jensen Huang, presidente-executivo da Nvidia .
“Confiança e alinhamento estão se tornando rapidamente as capacidades mais importantes que diferenciarão agentes e modelos”, disse Zuckerberg na terça-feira. “Qualquer laboratório que não se concentre no alinhamento ficará para trás.”
Zuckerberg também disse na terça-feira que os laboratórios têm um forte incentivo para impedir que seus modelos causem danos, pois, caso contrário, enfrentariam responsabilidade “significativa”. Ele citou que a Meta adiou o lançamento de seu agente de IA Muse no início deste ano para reforçar sua segurança.