Modelos de linguagem pequenos para agentes

Modelos de linguagem pequenos estão sendo explorados como componentes especializados mais baratos dentro de sistemas de agentes, especialmente para subtarefas rotineiras ou restritas. Por que importa: Direcionar cada etapa para um modelo de fronteira pode tornar os fluxos de trabalho de agentes mais lentos e caros do que o necessário. Modelos menores podem se tornar trabalhadores úteis para classificação, extração, formatação e decisões simples de ferramentas.

Para testar: Identifique uma subtarefa de baixo risco em um pipeline de agente e teste se um modelo menor consegue executá-la de forma confiável com exemplos fixos e um conjunto de avaliação.