Attention degradation
Conforme a conversa cresce, o sinal do que importa encolhe. O agente parece piorar, e de certa forma piora.
Onde você esbarra nisso
Toda vez que alguém do time reclama que "a IA tava boa semana passada". Pergunte quanto tempo tinha aquela conversa.
Conecta com
O que é
O efeito acumulado do orçamento de atenção: quanto mais a sessão cresce, mais competidores cada token tem, e menor fica o peso das relações que interessam.
O sintoma parece desobediência. O agente concordou com uma regra no começo e vai derivando dela, e recolar a regra ajuda só por um tempinho.
O que muda pro teu negócio
Essa é a explicação da queixa mais comum sobre inteligência artificial no trabalho: "ela piorou".
Não piorou. A sessão engordou. E como o sintoma parece caprichoso, as pessoas tentam consertar do jeito errado: escrevem prompt maior, colam mais exemplo, adicionam mais regra. Tudo isso engorda a sessão e piora o problema que estavam tentando resolver.
O conserto é chato: limpar e recomeçar com o essencial. Custa dez segundos e resolve o que uma hora de ajuste de prompt não resolve.
Fontes
Documentação da Anthropic sobre desempenho em contexto longo.
AI Coding Dictionary, verbete "Attention degradation", Matt Pocock. Dele veio o alerta de que o sintoma se parece com desobediência. Nomear isso evita horas gastas ajustando o prompt errado.