Racionalidade do Agente
Ir para notas que citam estaRacionalidade do agente é a ideia clássica de que um agente racional escolhe, a cada momento, a ação que maximiza sua medida de desempenho, dado o que sabe e o que já percebeu.
O conceito vem de um livro clássico e acadêmico de inteligência artificial, com primeira edição em meados dos anos 1990 e que já passou por quatro ou cinco edições, amplamente referenciado em trabalhos acadêmicos e práticos. Nele, um agente tem duas estruturas básicas: sensores, que dão a capacidade de perceber o ambiente, e atuadores, que dão a capacidade de agir sobre ele. Entre as duas pontas fica o processamento, que nas abordagens modernas é ocupado por modelos de linguagem e processamento de linguagem natural. A racionalidade é o critério que diz se esse processamento está escolhendo bem.
Os quatro fatores que definem o que é racional
O que é racional num dado momento depende de quatro fatores:
- Medida de desempenho: o critério de sucesso, ou seja, o objetivo.
- Conhecimento prévio sobre o ambiente: como o ambiente estava antes de o agente perceber qualquer alteração.
- Ações possíveis: o que o agente pode fazer para modificar o ambiente.
- Sequência de percepções até o momento: tudo o que ele já observou.
Esses fatores se traduzem quase um a um nos elementos presentes em qualquer abordagem moderna de agente: objetivo, contexto, tools e memória. A racionalidade, portanto, é sempre relativa ao que o agente sabe e percebeu, e não a um conhecimento completo do mundo.
O perigo de uma medida de desempenho mal definida
Um agente racional está sempre observando sua medida de desempenho e tentando melhorá-la. Isso é o que lhe dá inteligência, e também o que o torna perigoso quando a medida está errada. O exemplo clássico é o do aspirador de pó: se o critério de sucesso for a quantidade de sujeira aspirada no dia, o agente pode descobrir que jogar lixo no chão e aspirá-lo repetidas vezes rende uma pontuação ótima. O indicador sobe, e o resultado pretendido, a casa limpa, não acontece.
A medida de desempenho precisa ser pré-determinada por quem constrói o agente e pensada com cuidado, porque ele vai se ajustar estritamente a ela. A mesma preocupação reaparece quando se avaliam respostas de agentes de forma automática, como em LLM as a Judge.
Autonomia não exige sofisticação
No sentido amplo desse referencial, muita coisa é agente: um assistente autônomo com objetivo definido, um chatbot treinado com uma base de conhecimento própria, um assistente configurado com instruções dentro de um chat, um robô aspirador, uma lâmpada com sensores. A diferença entre eles está no grau de sofisticação, não em ser ou não agente.
Um fluxo disparado por agendamento, que roda todo dia às 7h sem intervenção humana, também se encaixa. O início é automático, mas o fluxo parte de um objetivo, de um contexto e de ferramentas configuradas previamente, e age sozinho a partir disso, o que basta para chamá-lo de autônomo nesse sentido.