history fornece aos modelos uma memória de longo prazo que persiste entre sessões.
Quando ativada, cada par de solicitação-resposta é armazenado e indexado automaticamente.
O modelo pode então buscar semanticamente interações passadas para recuperar informações de conversas anteriores.
Como funciona
- Adicione
{ type: "history" }ao arraytoolsem sua solicitação - O modelo recebe uma função
historyque pode ser chamada com uma consulta de busca - Conversas passadas são pesquisadas usando embeddings vetoriais para similaridade semântica
- Após cada resposta ser concluída, a mensagem do usuário e a resposta do assistente são armazenadas automaticamente em segundo plano
X-On-Behalf-Of possui um histórico isolado. Usuários finais diferentes não podem ver o histórico uns dos outros.
Ative a ferramenta de histórico
store: true para que a conversa seja persistida e disponível para recuperação futura.
Recupere informações de uma sessão anterior
Em uma solicitação posterior — mesmo minutos, horas ou dias depois — o modelo pode buscar em seu histórico para encontrar interações passadas relevantes. O modelo decide quando chamar a ferramenta de histórico com base na pergunta do usuário.Exemplo completo: armazenar e recuperar entre sessões
Este exemplo mostra o fluxo completo — armazenando informações em uma solicitação e recuperando em outra.Detalhes do comportamento
| Aspecto | Detalhe |
|---|---|
| Armazenamento | Automático — cada par de solicitação/resposta é indexado após a resposta ser concluída |
| Busca | Semântica — usa embeddings vetoriais, não busca por palavras-chave |
| Escopo | Por usuário final — isolado pelo cabeçalho X-On-Behalf-Of |
| Indexação | Em segundo plano — não adiciona latência à resposta |
| Resultados | Até 10 interações passadas mais relevantes retornadas por busca |
| Tamanho da entrada | Texto truncado em 7.500 caracteres por entrada para embedding |
Quando usar a ferramenta de histórico
- Personalização: Lembrar preferências do usuário, nomes ou contexto entre sessões
- Continuidade de projetos: Recuperar decisões, prazos ou requisitos discutidos anteriormente
- Fluxos de suporte: Manter contexto sobre o histórico de problemas de um usuário
- Assistentes: Criar assistentes que aprendem e se adaptam a cada usuário ao longo do tempo
Próximos passos
- Conversas — gerencie trocas de múltiplas mensagens em uma única sessão
- Arquivos e vetores — armazene e busque documentos
- Gerar uma resposta — solicitações de texto e trocas multi-turno