Alerta na Anthropic: Pesquisador estima risco superior a 10% de extinção humana pela IA até 2030

O Que Aconteceu

O cenário de desenvolvimento de Inteligência Artificial sofreu um novo abalo ético e institucional após declarações contundentes de pesquisadores do alto escalão da Anthropic. Um especialista em segurança da empresa afirmou publicamente que existe uma probabilidade superior a 10% de que sistemas de IA avancem a ponto de “aniquilar a humanidade” antes do final desta década. O alerta veio à tona logo após a demissão pública de Jacob Coxon, ex-pesquisador que treinou LLMs tanto na Anthropic quanto na OpenAI.

Coxon utilizou sua conta na rede social X para justificar sua saída, acusando os principais laboratórios da indústria de adotarem uma postura negligente em relação à segurança. Segundo o ex-pesquisador, a corrida desenfreada rumo a superinteligências capazes de autoaperfeiçoamento coloca em risco a sobrevivência humana, transformando avanços em GPUs e infraestrutura de larga escala em uma roleta-russa tecnológica.

Principais Destaques Técnicos

O cerne da discussão técnica reside na transição acelerada entre os modelos atuais focados em tarefas e o desenvolvimento de sistemas de autoaperfeiçoamento (self-improving superintelligence). Embora a infraestrutura baseada em clusters massivos de GPUs e TPUs permita ganhos exponenciais de raciocínio e fine-tuning, o controle sobre as capacidades emergentes dessas arquiteturas permanece opaco.

Os críticos apontam que os benchmarks tradicionais de LLMs medem apenas a proficiência em tarefas específicas, falhando em mapear riscos sistêmicos de desalinhamento de objetivos. À medida que os laboratórios aumentam o investimento computacional para aproximar os modelos de uma autonomia cognitiva generalizada, os protocolos de alinhamento ético e restrições de segurança acabam sendo atenuados para manter a competitividade comercial.

Análise nossa.ia.br: O Que Isso Muda na Prática?

Para o ecossistema de tecnologia, desenvolvedores e empresas no Brasil, esse episódio ilustra a urgência de debater a governança de IA muito além da conformidade regulatória básica. No mercado corporativo nacional, a adoção de APIs de grandes players deve vir acompanhada de uma matriz robusta de gestão de riscos, especialmente diante da possibilidade de volatilidade regulatória internacional caso governos imponham travas severas aos laboratórios de fronteira.

Além disso, o racha interno na Anthropic sinaliza que a comunidade científica está dividida entre a aceleração comercial e a mitigação de riscos existenciais. Para desenvolvedores e empresas brasileiras que constroem soluções baseadas em Open-Weights ou modelos proprietários, a mensagem é clara: a dependência de infraestruturas centralizadas exige monitoramento constante não apenas de performance e custos, mas também da estabilidade ética e regulatória das fundações que fornecem a tecnologia.

---

Com informações de: Robert Hart