Ao falar sobre riscos, Huang disse que velocidade não pode significar colocar produtos no mercado antes de estarem prontos. “Vamos o mais rápido que pudermos, mas nunca deveríamos lançar produtos antes de estarem prontos, entregar produtos que sejam inseguros. E ninguém espera que façamos isso. Mas todo mundo espera que a gente tenha sucesso e ajude os EUA a serem o mais prósperos possível”, declarou.
A fala ocorre em meio a episódios recentes em que sistemas de IA teriam saído do controle e até invadido sites. Esses casos reforçaram o debate sobre limites, regras e responsabilidade no avanço da tecnologia.
Por que parte do setor pede para desacelerar
Alguns líderes de empresas de IA passaram a defender uma pausa ou redução do ritmo para aumentar a segurança dos modelos. A iniciativa foi descrita em um texto de Dario Amodei, CEO da Anthropic, empresa do chatbot Claude.
Amodei disse que o setor precisa reduzir a velocidade de evolução das capacidades dos sistemas. “Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA”, escreveu. O executivo disse que o alerta não significa interromper tudo, mas sim tratar o tema como sinal de atenção.
Outros nomes do setor também já defenderam cautela. Por outro lado, Mark Zuckerberg, CEO da Meta, não quer que o desenvolvimento desacelere. Ele argumentou que regras de mercado e o risco de processos na Justiça funcionariam como proteção contra abusos e danos.