O teu agente sonha? Tens de lhe dar gestão!

Publicado a: 

Imagina que um agente de IA confunde uma exceção comercial com uma regra. Regista-a na memória partilhada. No dia seguinte, outros agentes aplicam-na a todos os clientes. Ontem havia um erro. Hoje há um procedimento.

Numa palestra no AI Native DevCon, Lamis Mukta, engenheira da Anthropic, explica o que muda quando deixamos de escrever instruções avulsas para o Claude e passamos a construir agentes que consultam e atualizam a própria memória. O melhor modelo do mercado chega à empresa sem saber como ela trabalha. Pode descobrir, durante uma tarefa, onde estão os dados certos, que procedimento funciona e onde se enganou. Se guardar essa experiência e a recuperar quando interessa, a próxima execução começa mais à frente. Óbvio.

A Anthropic chama dreaming à revisão que acontece entre sessões. O sistema percorre registos de trabalho, identifica erros recorrentes e reorganiza o que convém guardar. Durante a sessão, o agente pode tomar notas. Entre sessões, pode rever o que escreveu à luz de outras experiências. Uma solução improvisada na terça-feira pode revelar-se útil na sexta. Também pode ter funcionado uma vez por puro acaso.

Veja-se o caso de um fornecedor que falha uma entrega. O agente pode registar o atraso, consultar o contrato e sugerir uma alternativa. Se o atraso se repetir, o histórico ajuda a detetar um padrão que passaria despercebido a quem olha para cada encomenda isoladamente. Mas mudar de fornecedor pode resolver a urgência e comprometer o abastecimento do mês seguinte. Quem decide tem de pesar as duas coisas e saber com que informação o agente trabalhou.

É aqui que a demonstração acaba e começa a gestão. Uma coisa é deixar um agente escrever no seu bloco de notas. Outra é deixá-lo alterar as instruções que todos os agentes seguem. Quem pode escrever em cada sítio? O que acontece quando dois agentes mexem no mesmo registo? Quem aprovou a mudança, com base em quê, e como se recupera a versão anterior? São perguntas pouco excitantes até ao dia em que um erro chega a mil clientes.

Nas empresas, isto vai expor um problema antigo. Há processos que só funcionam porque alguém sabe quando deve abrir uma exceção, a quem ligar e que número merece desconfiança. Ao pôr agentes a executar esses processos, é preciso tornar esse critério explícito. E aí descobre-se, por vezes, que três diretores têm três versões da mesma regra. Comprar um modelo mais potente é capaz de ser a parte fácil. Pôr os três de acordo é trabalho de gestão.

Na próxima demonstração, eu pediria para ver o agente a executar a mesma tarefa pela segunda vez. Depois perguntaria o que guardou da primeira, o que decidiu descartar e quem pode corrigir a sua memória. Se ninguém na sala souber responder, já sei onde está o problema. Está na sala. É para isso que servem a gestão e a liderança: cabe-te a ti, a mim e às pessoas decidir o que se delega e responder pelas consequências.

Vê o vídeo aqui, num post de Luís Albuquerque.