Agentes baseados em LLM (Large Language Models)

Resumo

A abordagem inicial de redução de modelos via WS-NAS mostrou-se computacionalmente inviável e apresentou conflitos técnicos, o que motivou uma redireção bem-sucedida da pesquisa para o uso de Small Language Models (SLMs) com estratégias mais leves. Esta nova fase gerou resultados alinhados às expectativas e à literatura atual, validando a metodologia adotada.
A principal conclusão do estudo é que a sinergia entre Knowledge Distillation (KD) e a técnica de Re-Ranking foi a mais eficaz, otimizando significativamente o desempenho do SLM. O Re-Ranking também se destacou como uma ferramenta poderosa de forma isolada, superando as demais estratégias de prompting. Notavelmente, a competitividade do modelo estudante, que chegou a superar o professor em cenários específicos, reforça o grande potencial dos SLMs como alternativas eficientes.
Desta forma, a pesquisa identificou uma combinação de técnicas robusta para o desenvolvimento de agentes de IA e forneceu evidências práticas de que é possível alcançar alta performance em ambientes com recursos limitados, alinhando-se aos objetivos propostos.