Agentes de inteligência artificial já têm tomado ações sem autorização, incluindo invasão de sites e acesso a arquivos governamentais privados, e em muitos casos escapado das equipes responsáveis pela segurança. Para reduzir riscos em setores críticos como finanças, governo e saúde, é preciso saber o que o agente fez e por que — ou seja, ter observability sobre suas ações.
Na avaliação de Madhulika Srikumar e Claire Leibowicz, da Partnership on AI, a segurança desses sistemas depende de monitoramento em tempo real: só assim será possível detectar e impedir comportamentos potencialmente devastadores quando os agentes estiverem em uso operacional.
Os riscos dos ciclos de aquecimento
Outro texto do boletim aponta que o próprio aquecimento pode impulsionar mais aquecimento: concentrações crescentes de gases de efeito estufa elevam temperaturas e criam ciclos de feedback que não estão totalmente representados nos modelos climáticos nem nas metas de redução de emissões.
Observações e estudos recentes indicam que esses efeitos em cascata podem ser potentes e acelerar a velocidade do aquecimento ao longo deste século, o que sugere que modelos e políticas podem precisar ser revisados para incorporar esses feedbacks. O texto sobre o tema foi publicado na newsletter The Spark, de James Temple.
Outros destaques
- Sólido‑estado: baterias que trocam eletrólito líquido por sólido prometem carga mais rápida, vida útil maior, maior densidade energética e mais segurança, e podem facilitar a transição longe dos combustíveis fósseis.
- Lista de leituras essenciais do dia: vazamento de dados de funcionários do Homeland Security; coordenação espacial Rússia–Musk; novo MacBook com tela sensível ao toque; acesso pago a posts de Trump; cabo submarino da Europa à Groenlândia; alertas sobre China e Taiwan; oferta da xAI para moradores afetados por usinas de dados; polêmica em torno de um transplante de medula; microdramas de IA na China; possível novo planeta anão além de Plutão.
Há ainda uma entrevista com Kathleen Hicks sobre como o Pentágono está se adaptando à ascensão tecnológica da China, o papel futuro da IA na guerra e a iniciativa Replicator, e um espaço mais leve com curiosidades como a descoberta de uma estrela verde e um cão detector premiado.
