Evan Hubinger, que lidera na Anthropic a equipe responsável por testar sistemas de IA em situações adversas, afirmou publicamente acreditar que existe mais de 10% de chance de a IA matar todos os humanos na próxima década.
A declaração veio em resposta à saída de Jacob Coxon, ex-pesquisador da OpenAI e da Anthropic, que renunciou ao cargo e classificou publicamente a corrida entre os laboratórios de IA como uma aposta irresponsável com vidas humanas.
Para quem acompanha o setor de tecnologia, esse tipo de alerta não é novidade. Nomes como Geoffrey Hinton e Stephen Hawking já haviam levantado preocupações semelhantes em outros momentos.
A diferença agora é que a fala parte de dentro de uma das empresas que mais avançam no desenvolvimento desses sistemas.
Neste artigo, você vai entender o que exatamente Hubinger e Coxon disseram, por que essa preocupação está mais ligada a sistemas futuros do que às ferramentas de IA usadas hoje e o que esse debate representa na para quem trabalha com marketing.
O que Hubinger disse?
Em publicação na rede X, Hubinger escreveu "realmente acreditamos, de forma sincera, que a IA poderia matar todos os humanos". Mas ele considera baixo o risco associado aos modelos disponíveis hoje.
A preocupação não está no Claude ou no ChatGPT que as empresas usam no dia a dia, mas em uma geração futura de sistemas capazes de melhorar o próprio desempenho de forma recorrente, avançando mais rápido do que os mecanismos criados para supervisioná-los.
Coxon, por sua vez, apontou para um problema estrutural do setor. Segundo ele, os laboratórios de IA enfrentam um incentivo perverso: mesmo identificando riscos, dificilmente vão desacelerar sozinhos, porque acreditam que os concorrentes continuarão avançando de qualquer forma.
Essa lógica competitiva empurra o setor inteiro para o mesmo ritmo acelerado.
Esse risco muda alguma coisa para quem usa IA em campanhas?
Esse debate sobre segurança em modelos futuros de superinteligência parece distante da rotina de quem ajusta campanhas no Google Ads ou testa criativos no Meta.
Ainda assim, ele carrega uma lição relevante: a velocidade de adoção de IA nas empresas segue muito à frente da capacidade de entender essas ferramentas.
Modelos de linguagem cometem erros, alucinam dados e podem levar decisões de campanha para direções equivocadas quando usados sem supervisão humana.
O alerta de pesquisadores que constroem esses sistemas sobre riscos de longo prazo serve como lembrete de que confiar cegamente em qualquer IA é uma aposta que precisa vir acompanhada de revisão e critério humano.
Leia também: Meta e Google Ads reduziram o controle manual de posicionamento
Conclusão: Para onde esse debate deve caminhar?
A publicação de Hubinger e a saída de Coxon devem alimentar novas discussões sobre regulação e ritmo de desenvolvimento de IA nos próximos meses. Acompanhar esse debate deixou de ser algo restrito a analistas de tecnologia.
Entender como os próprios criadores dessas ferramentas avaliam seus riscos ajuda a calibrar expectativas sobre até onde a automação pode ir sem checagem humana, e onde a supervisão continua sendo indispensável.
O alerta de pesquisadores da própria Anthropic reforça que IA é uma ferramenta poderosa, mas que exige estratégia, supervisão e critério para gerar resultados.
É esse equilíbrio entre tecnologia e inteligência humana que a Traktor coloca em prática todos os dias, para transformar a IA em performance de verdade para o seu negócio. Fale com a Traktor e descubra como usar IA com estratégia.
