Pular para o conteúdo

Tecnologia3 min de leitura

Relatório indica que IA da Anthropic acelera seu próprio desenvolvimento

Investigação identifica modelos internos não divulgados e aumenta pressão por transparência enquanto a empresa se prepara para IPO

Por Redação Mastigado

Fonte: The Verge · Ler matéria completa

Compartilhar

Resumo Mastigado

Relatório da METR, após 11 semanas de investigação interna, concluiu que os modelos da Anthropic evoluem cerca de duas vezes mais rápido que há um ano, com a IA responsável por boa parte do avanço. A empresa pôde editar o texto e omitiu muitas evidências.
Relatório indica que IA da Anthropic acelera seu próprio desenvolvimento
Foto: Jason Henry/Bloomberg via Getty Images

A investigação identificou ao menos três modelos internos ainda não divulgados publicamente — com os codinomes Model 2, Model 3 e Model 4 — que completaram treinamento entre julho e outubro e teriam impulsionado grande parte das melhorias internas.

Segundo o relatório da organização de pesquisa em segurança de IA METR, os modelos da Anthropic estão progredindo aproximadamente duas vezes mais rápido do que há um ano, e esse salto não pode ser explicado apenas pelo aumento de poder de computação. METR afirma que, a partir de outubro, a maior parte da aceleração parecia vir de contribuições feitas por IA.

O documento também reúne relatos de funcionários: equipes que usaram o modelo interno mais capaz disseram ser, em média, cerca de 12 vezes mais produtivas em suas tarefas com assistência da IA, um avanço substancial em relação a meses anteriores. METR observou que, por enquanto, muito do progresso vem da IA ajudando pesquisadores humanos, embora haja sinais de que contribuições autônomas possam crescer em breve.

Parte importante do que METR encontrou ficou fora da versão pública do relatório: Anthropic teve autorização para redigir trechos do documento final e usou esse poder extensamente, segundo os próprios pesquisadores. METR disse ter submetido um relatório completo de aproximadamente 100 páginas e que a versão pública omitiu a maioria das evidências consideradas mais informativas.

Anthropic justificou as redações alegando que divulgar detalhes poderia beneficiar concorrentes e “entregar um roteiro” para acelerar desenvolvimento alheio. O cofundador Sam McCandlish reconheceu as ampliações das redações, afirmou que a empresa decidiu preservar informações por razões comerciais e de risco, e anunciou que pretende publicar um relatório próprio sobre a velocidade do progresso e novas medidas de segurança em breve.

O relatório provocou reação ampla entre pesquisadores de segurança de IA. Especialistas dizem que os achados reforçam a possibilidade de aceleração rápida rumo à automação de pesquisa em IA — a chamada melhoria recursiva — e pedem mais fiscalização independente dentro dos laboratórios. Figuras do setor destacaram que as conclusões podem exigir revisão de prazos e políticas para controlar riscos.

O caso ganhou peso político e regulatório: houve pedidos por maior transparência e até propostas mais duras, como a sugestão de proibir técnicas de automação de pesquisa (RSI). A publicação do relatório também intensifica o debate sobre a conduta da Anthropic, que se coloca publicamente a favor de um abrandamento no ritmo do desenvolvimento de IA enquanto seus próprios indicadores internos mostram aceleração.

METR alertou que, pela extensão das redações, o público ficará mais dependente do julgamento da própria organização para avaliar os riscos, o que reacende apelos por avaliadores independentes com acesso amplo aos sistemas internos das grandes empresas de IA.

Conteúdo agregado de fontes citadas, com crédito e link. Pedir retirada