A capacidade de chamar funções é uma capacidade crítica para os grandes modelos de linguagem (LLMs) interagirem com o mundo real e serem úteis além de um simples assistente de bate-papo. Os LLMs podem não ter o conhecimento interno para realizar certas tarefas, como recuperar as condições climáticas atuais. No entanto, eles podem aproveitar APIs ou funções externas para recuperar e processar as informações necessárias.

O fluxo de chamada de função funciona da seguinte forma:

1. O LLM primeiro determina se pode realizar a operação com base em seu conhecimento de treinamento interno ou se precisa usar ferramentas ou funções externas.
2. Se forem necessárias ferramentas externas, o LLM analisará a consulta do usuário e selecionará as funções apropriadas para executar.
3. O LLM então usará um compilador Python para fazer as chamadas de função, recuperar os resultados e realimentá-los no LLM para gerar a resposta final.

Nesta seção, exploraremos a capacidade do modelo de lidar com chamadas de múltiplas funções e chamadas de funções aninhadas. O objetivo é testar a capacidade do modelo de decompor consultas complexas e executar várias funções sequencialmente para fornecer uma resposta abrangente.

Primeiro, veremos um exemplo de chamada de múltiplas funções, em que o modelo precisa executar duas funções separadas para atender à consulta do usuário. O modelo deve ser capaz de identificar as funções relevantes, fazer as chamadas de função necessárias e combinar os resultados para gerar a resposta final.

Em seguida, exploraremos o conceito de chamadas de funções aninhadas. Neste cenário, a saída de uma chamada de função se torna a entrada de outra chamada de função. O modelo precisa reconhecer essa dependência, executar as funções na ordem correta e fornecer o resultado final ao usuário.

Para garantir que as respostas do modelo sejam precisas e bem formatadas, utilizaremos uma mensagem do sistema que orienta o modelo sobre como lidar com chamadas de funções dependentes. Essa abordagem ajuda o modelo a manter a integridade dos dados durante todo o processo de execução de funções em várias etapas.

Finalmente, testaremos um exemplo mais complexo que combina chamadas de múltiplas funções e chamadas de funções aninhadas. Isso demonstrará a capacidade do modelo de lidar com consultas intrincadas e coordenar a execução de várias funções para fornecer uma resposta abrangente e precisa.

Ao explorar esses exemplos, podemos avaliar a versatilidade do modelo e sua capacidade de interagir com cenários do mundo real que exigem a integração de ferramentas e funções externas.

A chamada de função aninhada é um recurso poderoso que permite que os modelos de linguagem realizem operações complexas e de várias etapas, encadeando os resultados de várias funções. Essa capacidade é fundamental para permitir que os modelos de linguagem interajam com o mundo real e abordem casos de uso avançados além de simples chatbots.

Nesta seção, exploraremos como o modelo Mistol 7B versão 3 pode lidar com chamadas de funções aninhadas, em que a saída de uma chamada de função é usada como entrada para outra chamada de função. Isso permite que o modelo decomponha consultas complexas do usuário em uma série de etapas interdependentes, cada uma executada por uma função separada.

As principais etapas envolvidas na implementação da chamada de função aninhada são:

1. Identificação de Funções Dependentes: O modelo deve reconhecer quando uma consulta do usuário requer que a saída de uma função seja usada como entrada de outra função. Isso exige que o modelo tenha uma compreensão abrangente das funções disponíveis e de suas relações de entrada/saída.

2. Execução de Chamadas de Função em Sequência: Uma vez identificadas as funções dependentes, o modelo deve executá-las na ordem correta, passando os dados relevantes de uma chamada de função para a próxima.

3. Formatação Correta da Saída: Para garantir que a saída final seja precisa e significativa, o modelo deve usar uma mensagem do sistema para orientar a formatação dos resultados intermediários das chamadas de função.

Dominando essas técnicas, os modelos de linguagem podem abordar tarefas do mundo real cada vez mais complexas, integrando perfeitamente várias ferramentas e APIs externas para fornecer aos usuários respostas abrangentes e personalizadas. Esse nível de funcionalidade é um passo fundamental para tornar os modelos de linguagem verdadeiramente úteis e indispensáveis em uma ampla gama de aplicações.

Ao lidar com chamadas de função de várias etapas ou aninhadas, é crucial garantir que o formato de entrada e saída esteja correto. O Tio Código recomenda o uso de uma mensagem do sistema para orientar o assistente na seleção das ferramentas apropriadas e no tratamento das dependências entre elas.

A mensagem do sistema sugerida é:

Você é um assistente útil. Sua tarefa é selecionar as ferramentas relevantes para a consulta do usuário. No caso de várias ferramentas, se as ferramentas forem dependentes umas das outras e o parâmetro de entrada de uma ferramenta vier de outra função, use @seguido do nome da função para o valor do parâmetro. Isso garante que o valor seja formatado corretamente.

Essa mensagem do sistema serve a dois propósitos-chave:

1. Seleção de Ferramentas: Ela instrui o assistente a selecionar as ferramentas relevantes com base na consulta do usuário, garantindo que a funcionalidade necessária seja coberta.

2. Tratamento de Dependências: Para os casos em que as ferramentas são interdependentes e a saída de uma função é necessária como entrada para outra, a mensagem do sistema orienta o assistente a usar a sintaxe @nome_da_função para fazer referência corretamente à saída da função anterior.

Usando essa mensagem do sistema, o assistente pode garantir que o formato de entrada e saída esteja correto, permitindo a execução perfeita das chamadas de função de várias etapas ou aninhadas. Essa abordagem ajuda a manter a integridade do fluxo de dados e fornece uma maneira confiável de aproveitar as capacidades de chamada de função do modelo.

O modelo Mistol V3 demonstrou capacidades impressionantes no tratamento de chamadas de múltiplas funções e chamadas de funções aninhadas. Os principais aprendizados são:

1. O modelo pode decompor consultas complexas do usuário em chamadas de funções separadas e executá-las em paralelo, como visto no exemplo de obter o clima atual em Paris e a hora atual em São Francisco.

2. Para chamadas de funções aninhadas, em que a saída de uma função é a entrada de outra, o modelo pode lidar com isso de forma perfeita. Ele usa uma mensagem do sistema para garantir que a saída da primeira chamada de função esteja no formato correto para a segunda chamada de função.

3. A capacidade do modelo de lidar com uma combinação de chamadas de múltiplas funções e chamadas de funções aninhadas, como mostrado no exemplo final, destaca sua flexibilidade e robustez em cenários do mundo real.

Em geral, as capacidades de chamada de função do modelo Mistol V3 o tornam uma ferramenta poderosa para a construção de aplicativos interativos que podem aproveitar APIs e serviços externos. Ao integrar esse modelo aos seus projetos, você pode criar assistentes inteligentes capazes de realizar uma ampla gama de tarefas além de simples interações de bate-papo.