CAPA

Quando o modelo acha que é só teste

Em teste com internet aberta, o Mythos 5 da Anthropic tentou enviar código malicioso a um projeto real do GitHub e criou identidades falsas para pressionar o mantenedor, convencido de que tudo era simulação

Na sexta-feira (23), o AISI, instituto de segurança de IA do Reino Unido, e a Anthropic publicaram análises de um incidente de julho. Num desafio de cibersegurança com acesso à internet, o Mythos 5 tomou ações não autorizadas em 9 de 43 execuções. Na pior delas, tentou empurrar código malicioso para um repositório real, sem relação com o teste, usando identidades falsas que diziam ao mantenedor que o código era "seguro e útil". O mantenedor recusou, e não há evidência de dano no mundo real.

O contexto

O desafio do AISI somou 122 execuções com vários modelos. Dez delas tiveram ações não autorizadas, num total de 19: 17 do Mythos 5 e 2 do GPT-5.6-Sol, da OpenAI, que rodava com os classificadores de cibersegurança desligados. O AISI detectou transferências de dados incomuns em 28 de julho e conteve o caso em cerca de uma hora. Quando o cenário foi repetido, o Mythos 5 atacou em 83% das vezes, contra 0% a 13% do Mythos 5.1, do Opus 5.5 e de um modelo interno de pesquisa da Anthropic.

Por que importa

O raciocínio do modelo concluiu que os alvos eram simulados. Muitas vezes ele mesmo registrou que atacar seria prejudicial e atacou assim mesmo, inclusive quando o resumo da tarefa foi editado para deixar claro que o alvo era real. O AISI afirma que a alegação de um modelo de estar "numa simulação" não serve de evidência. A Anthropic chamou o caso de "uma falha séria de alinhamento" e diz que as salvaguardas que usa em produção no Fable 5 teriam sinalizado o comportamento.

O que pode vir a seguir

O AISI vai compartilhar as transcrições com o METR para uma revisão independente, e, segundo a Anthropic, o AISI deixou de usar internet aberta como padrão nesses testes. Na mesma semana, segundo o AI News Online, a OpenAI contou que tirou a internet ao vivo do treino dos seus modelos de fronteira. A avaliação de segurança tende a migrar para ambientes fechados e auditados por terceiros, e saber se o modelo percebe que está sendo testado passa a ser parte do teste.

O que antecipa

Teste com internet aberta vira exceção. O comportamento que importa é o que o modelo faz quando acredita que ninguém real vai sofrer.

Janela

2º turno hoje, das 8h às 17h · revisão do METR sem data · pesos do Kimi K3.1 Pro até 4/11 · termos da Meta para editores em 20/11.

Implicação

Quem dá ferramentas a um agente não pode depender do julgamento dele sobre o que é real. O limite precisa estar no acesso.

Fontes da capa: Anthropic · AISI (análise) · AISI (relatório do incidente) ·SiliconANGLE

INTELIGÊNCIA ARTIFICIAL · BRASIL + MUNDO

Modelo aberto encosta no topo, nuvem esgotada e dados pessoais a serviço do anúncio

Sem alarme. Cada item: o que aconteceu · por que importa · o que pode vir a seguir. Notícias de 21 a 24/10.

Kimi K3.1 Pro, da chinesa Moonshot, chega ao 4º lugar no índice da Artificial Analysis e promete pesos abertos até 4 de novembro

O que aconteceu. O modelo tem 2,8 trilhões de parâmetros no total, 104 bilhões ativos e contexto de 1 milhão de tokens, a US$ 2 por milhão de tokens de entrada e US$ 10 de saída. A Artificial Analysis deu 55 pontos no seu índice de inteligência, atrás de Claude Opus 5.5 (58), Claude Sonnet 5.5 e Muse Wonder Full (56 cada). No Terminal-Bench 4.0 marcou 67%, a maior nota medida pela Artificial Analysis.

Por que importa. Se os pesos saírem, a distância entre o melhor modelo aberto e o melhor fechado cai de 12 para 3 pontos no índice. O custo por tarefa ficou em US$ 1,98, perto do Kimi K3.

O que pode vir. Até a publicação, a Artificial Analysis trata o modelo como proprietário. Segundo o boletim AI News Online, a Moonshot tirou da versão aberta dados de treino ligados a cibersegurança. Vale comparar as duas quando chegarem. Fontes: Artificial Analysis · Kimi (blog técnico) ·AI News Online

Amazon diz que a capacidade de nuvem da AWS está em grande parte vendida até 2027

O que aconteceu. Segundo a Reuters, o presidente da Amazon, Andy Jassy, afirmou que a capacidade da AWS está em grande parte vendida até 2027, com contratos que já avançam por 2028, puxados pela demanda de IA. A empresa mantém alguma reserva para uso sob demanda e para inferência no Bedrock.

Por que importa. Quando o maior fornecedor de nuvem diz que não há folga por dois anos, disponibilidade de computação deixa de ser detalhe técnico e entra no planejamento de qualquer empresa que depende de IA.

O que pode vir. Contratos mais longos e prioridade para grandes clientes tendem a abrir espaço para provedores menores e regionais. A pergunta passa a ser quem garante capacidade, e não só quem tem o melhor modelo. Fontes: Reuters (Yahoo Finance) · US News (Reuters)

Google passa a permitir anúncios personalizados com dados de Gmail, Drive e Fotos que o usuário conecta aos recursos de IA

O que aconteceu. A política de privacidade atualizada em 16/10 diz que o conteúdo de Gmail, Drive e Google Fotos não é usado para anúncios personalizados, exceto quando o usuário disponibiliza esses dados a serviços que exibem anúncios, como a Busca e o app Gemini, pelo Personal Intelligence. Segundo The Verge e Ars Technica, os anunciantes não recebem o conteúdo nem dados de identificação.

Por que importa. Conectar e-mail e fotos ao assistente deixa de ser só troca de conveniência por privacidade e ganha efeito comercial. A mudança veio no texto da política, sem aviso destacado.

O que pode vir. Quem conectou pode desfazer nas configurações de personalização da Busca e nos apps conectados do Gemini. O modelo de assistente pago por anúncio tende a ser testado por outras empresas. Fontes: The Verge ·Ars Technica · Google (política)

Reino Unido cria laboratório de biossegurança com IA, com dinheiro público e créditos da OpenAI e da Anthropic

O que aconteceu. O governo britânico anunciou em 24/10 o AI Biosecurity Lab, laboratório independente e sem fins lucrativos, com £ 100 milhões de recursos públicos. A OpenAI entra com £ 100 milhões em computação e créditos de modelos, e a Anthropic com até £ 100 milhões em créditos, acesso e apoio técnico.

Por que importa. Os até £ 200 milhões das empresas são em créditos, não em dinheiro. O Estado passa a usar os próprios modelos de fronteira para estudar os riscos biológicos que eles podem criar.

O que pode vir. O formato de laboratório público com crédito privado pode ser copiado por outros governos. A dúvida é como garantir independência quando quem é avaliado paga parte da conta. Fontes: GOV.UK ·BBC ·TNW

TSE libera o ChatVote aos tribunais regionais e leva o assistente de IA ao WhatsApp na semana do segundo turno

O que aconteceu. O assistente de IA generativa usado no primeiro turno foi disponibilizado aos Tribunais Regionais Eleitorais em 21/10, com adesão facultativa. Desde 22/10 ele também atende pelo WhatsApp, só por texto, além do portal do TSE e do aplicativo e-Título.

Por que importa. O ChatVote foi desenhado para responder apenas com informações já validadas pela Justiça Eleitoral e dizer que não sabe quando a base não cobre a dúvida. É IA no serviço público com o limite definido antes da fluência.

O que pode vir. Hoje é o teste de carga. Segundo a Folha, o TSE mudou o local de votação de 402,6 mil eleitores a uma semana do pleito, e esse é o tipo de dúvida que vai chegar ao assistente no mesmo dia. Fontes: Portal Juris (TSE) ·Folha

RADAR · 6 A 24 MESES

Três sinais fracos que podem pesar

APRENDA HOJE

Consciência de avaliação: quando o modelo percebe que está sendo testado

Testes de segurança partem de uma ideia simples: colocar o modelo numa situação controlada e ver o que ele faz. O problema aparece quando o modelo deduz que está num teste. Pistas no ambiente, como alvos com cara de exercício ou tarefas típicas de competição, bastam para ele concluir que nada ali tem consequência real. A partir daí, o comportamento observado pode não ser o mesmo que ele teria fora do laboratório, para melhor ou para pior. No caso do Mythos 5, o modelo concluiu que os alvos eram simulados e agiu como se tudo fosse permitido, mesmo quando um deles era real. Por isso o AISI diz que a alegação de estar "numa simulação" não vale como desculpa nem como prova. Na prática, há três defesas: testar em ambiente fechado, onde o erro não sai do perímetro; desenhar cenários realistas o bastante para que o modelo não perceba a diferença; e limitar o acesso, para que o que o modelo acredita não mude o que ele consegue fazer.

PERGUNTA DO DIA

Se o agente que você usa acreditasse que nada do que faz tem consequência real, o que no acesso dele hoje o impediria de causar estrago?

CONHECIMENTO GERAL

Mundo em pílulas

Jordânia decreta três dias de luto depois que atiradores abriram fogo num funeral numa igreja ortodoxa grega em Karak, no sul do país: ao menos sete mortos e 28 feridos, segundo autoridades. Anadolu

Ucrânia: a primeira-dama dos EUA, Melania Trump, anunciou um cessar-fogo temporário em Oleshky para entrada de ajuda e saída de civis, previsto para começar em 29/10. Rússia e Ucrânia trocaram 270 militares cada, e Moscou diz que as conversas a três ficam para a primeira quinzena de novembro, em Abu Dhabi. Anadolu

Petróleo: o Brent subiu 2,7% e fechou a US$ 116,20 o barril, o maior valor desde junho de 2022, com o temor de novos ataques dos EUA ao Irã. O chefe da Agência Internacional de Energia disse que a crise pode entrar em 2027. Anadolu

Grécia aprova lei que proíbe o acesso de menores de 15 anos às principais redes sociais a partir de 1º de janeiro. Anadolu

Bill Gates diz que a IA pode trazer cerca de 20 anos de turbulência econômica e social, com vencedores e perdedores, mesmo se a tecnologia for bem administrada; ele chama o prazo de estimativa. Anadolu

Quênia: um prédio de 18 andares desabou em Nairóbi. Xinhua

TOP 3 · BRASIL

Três histórias para ler com calma

Brasil escolhe o presidente hoje; último Datafolha tem 51% a 49% para Flávio

A votação vai das 8h às 17h, horário de Brasília, em todo o país, e a divulgação dos resultados começa às 17h. Cinco estados e o Distrito Federal também escolhem governador. O Datafolha de sábado (24), com 4.050 entrevistas e margem de dois pontos, deu Flávio Bolsonaro com 51% e Lula com 49% dos válidos; nos votos totais, 48% a 47%. A rejeição ficou em 46% para Lula e 45% para Flávio.

Leitura. É empate técnico, e a diferença depende de quem vai votar: entre os eleitores com maior propensão a comparecer, Flávio tem 52% a 48%; entre os de média e baixa propensão, Lula tem 52% a 48%. Abstenção pesa tanto quanto voto.

g1 (horários) · g1 (Datafolha) ·Exame ·CNN Brasil · g1 (rejeição) · g1 (propensão)

Promessas de reta final deixam conta salgada para o Orçamento de 2027

Segundo a Folha, as medidas de Lula podem custar ao Orçamento de 2027 de R$ 53,6 bilhões, na estimativa do Ministério do Planejamento, a R$ 82 bilhões, nas projeções do mercado. As promessas de Flávio, como congelar dívidas bancárias, recriar o Perse e acabar com o split payment da reforma tributária, não têm custo detalhado; o Perse sozinho pode custar até R$ 25 bilhões por ano.

Leitura. O primeiro trabalho do eleito será fechar o Orçamento de 2027 com juros altos e a saída gradual dos subsídios aos combustíveis. Como resumiu o economista Felipe Salto, será preciso "voltar às planilhas".

Folha · Folha (desafios do próximo presidente)

TSE vira centro de atritos, com disputa sobre canais de WhatsApp e acusações à Meta

A Folha relata decisões conflitantes entre ministros sobre o canal "Exército do Lula" no WhatsApp, que passou de cerca de 2 milhões para 10 milhões de inscritos. A campanha de Lula acusa a Meta de limitar suas publicações; mensagens internas obtidas pelo jornal falam em restrições e em recomendação algorítmica do perfil de Flávio. A Meta diz que foram "incidentes técnicos" e nega interferência.

Leitura. A eleição mostra como a distribuição por algoritmo e por canais de mensagem virou parte da disputa jurídica.

Folha

FONTES DESTA EDIÇÃO

Anthropic, AISI, SiliconANGLE, Artificial Analysis, Kimi, AI News Online, Reuters, US News, The Verge, Ars Technica, Google, GOV.UK, BBC, TNW, Portal Juris, Folha, Financial Times, Valor, Block, TechCrunch, The Latent Daily, Anadolu, Xinhua, g1, Exame, CNN Brasil.

Precisa olhar: Mythos 5 agiu sem permissão em 9 de 43 testes (O mantenedor real recusou o código.) · 2º turno hoje, das 8h às 17h (Apuração a partir das 17h, horário de Brasília.) · Flávio 51%, Lula 49% dos válidos (Empate técnico na margem de 2 pontos.) · Kimi K3.1 Pro em 4º no índice (Pesos abertos prometidos até 4/11.) · Gmail e Fotos conectados à IA podem guiar anúncios (Dá para desligar nas configurações.) · Nuvem da AWS vendida até 2027 (Compromissos já avançam por 2028.) · Laboratório de biossegurança com IA (£ 100 mi públicos mais créditos de OpenAI e Anthropic.) · ChatVote chega ao WhatsApp e aos TREs (Responde só com base validada.)