Código e agentesGoogle / Introducing Tool Retrieval in the Gemini API

Gemini Tool Retrieval: confira o limite entre descoberta e execução

O Google apresentou o Tool Retrieval em prévia em 19 de novembro. A API Interactions do Gemini pode carregar esquemas de ferramentas sob demanda, mas os desenvolvedores ainda precisam distinguir descoberta, execução, autorização e o custo total de uma tarefa concluída.

Um orc programador verde-musgo escolhe uma chave de fenda com cabo de cobre em um painel de ferramentas lavanda, ao lado de uma caixa de ferramentas fechada, cor de ameixa, com fecho de cobre.
Ilustração conceitual.

Uma prévia para agentes com catálogos de ferramentas em expansão

O Google lançou o Tool Retrieval em 19 de novembro para a API Interactions do Gemini. Em vez de colocar todos os esquemas de parâmetros no prompt inicial, os desenvolvedores podem deixar as ferramentas menos usadas disponíveis para descoberta. O Google apresenta menor latência, menor uso de tokens e melhor seleção de ferramentas como benefícios; são alegações do fornecedor que precisam ser verificadas na carga de trabalho real de cada aplicação.

Para um assistente de programação conectado ao rastreamento de problemas, às implantações e à documentação, a questão prática é saber se ele encontra a operação correta sem tornar caro o envio de todo o catálogo. Uma avaliação útil também deve revelar o que acontece quando duas ferramentas têm nomes parecidos, uma capacidade não está disponível ou o acesso do usuário muda no meio da tarefa.

Acompanhe a descoberta até a operação efetiva

A recuperação no servidor usa uma entrada tool_search e defer_loading: true nas ferramentas function ou mcp_server selecionadas. Nomes e descrições continuam visíveis, enquanto os esquemas completos dos parâmetros ficam para depois. O exemplo do Google passa de tool_search_call para tool_search_result e, em seguida, para a operação solicitada. Portanto, um esquema descoberto é uma etapa intermediária, não uma evidência de que a tarefa foi concluída.

A documentação de chamada de funções distingue funções personalizadas, executadas pela sua aplicação, de ferramentas MCP remotas, que a API pode executar por meio do servidor conectado. Acompanhe o caminho correspondente. O retorno de um esquema, a proposta de uma chamada e um resultado externo verificado devem continuar sendo eventos separados no registro de uma implantação.

Escolha o modo de recuperação e preserve as verificações de permissão

A prévia exige v1beta e aceita a API Interactions, sem suporte a generateContent. A recuperação no cliente usa tool_search com execution: "client"; sua aplicação pesquisa o próprio registro e devolve as declarações correspondentes. Isso adiciona uma ida e volta à comunicação e pode atender a um catálogo que varia conforme o usuário. Não combine esse modo com defer_loading, que configura a recuperação no servidor.

A recomendação do Codorc é limitar a descoberta ao usuário atual e verificar a autorização novamente ao executar uma operação. A classificação dos resultados da recuperação não determina se uma conta pode modificar um repositório ou implantar um serviço. A orientação do Google sobre chamada de funções também recomenda validar as chamadas e usar autenticação apropriada. Inclua um caso de acesso revogado na avaliação, sem precisar realizar uma implantação real.

Mantenha o estado e as ferramentas consistentes entre as interações

A visão geral da API Interactions informa que previous_interaction_id preserva o histórico da conversa, enquanto tools, system_instruction e generation_config se aplicam apenas a cada interação. Reenvie a configuração pertinente nas interações seguintes, inclusive naquela que devolve o resultado de uma ferramenta. Trate o registro fornecido naquele momento como uma escolha explícita de configuração, em vez de presumir que o histórico o transfere adiante.

O guia de recuperação também exige que as etapas de recuperação e suas assinaturas opacas sejam preservadas sem alterações no histórico sem estado. Procure function_call nas etapas, em vez de depender apenas do status requires_action. Se o registro mudar, documente quais definições e permissões se aplicavam a cada chamada; uma invocação anterior bem-sucedida não concede acesso no presente.

Meça a requisição e a conversa completas

Segundo o Google, o Tool Retrieval não tem cobrança separada, mas as instruções de busca aumentam a entrada e os esquemas carregados são cobrados na continuação da conversa. A referência de uso identifica total_tool_use_tokens para chamadas adicionais ao modelo dentro de uma requisição, cobradas pela tarifa de entrada. Portanto, contar apenas o primeiro prompt pode deixar parte do trabalho de fora.

O guia de cache informa que a API Interactions aceita cache implícito, sem caches explícitos gerenciados manualmente. A economia com cache depende dos acertos efetivos. Compare a latência e o uso total faturado de tarefas concluídas, incluindo buscas, resultados de ferramentas, novas tentativas e tentativas sem sucesso. Um prompt inicial menor, por si só, não demonstra que um agente é mais barato ou confiável.

Seis verificações antes de ampliar uma biblioteca de ferramentas

Estas são verificações propostas para a aplicação, não resultados de uma integração com a API ou de um benchmark executados. Use um registro de teste inofensivo e resultados esperados definidos antecipadamente:

  • Mantenha fixos o modelo, a tarefa, a revisão do repositório e o catálogo de ferramentas ao comparar o carregamento estático com o adiado.
  • Inclua duas ferramentas com nomes parecidos e uma tarefa sem correspondência. Registre a capacidade selecionada e verifique se o agente descreve a limitação com precisão.
  • Teste uma operação negada e a revogação do acesso entre a descoberta e a execução. Verifique se a autorização da aplicação continua bloqueando a ação.
  • Continue uma conversa após o resultado de uma ferramenta e após uma mudança no registro. Confira se as definições e a configuração atuais são fornecidas deliberadamente.
  • Guarde o registro completo, o resultado externo e o uso faturado de cada tentativa. Separe a descoberta de esquemas, as propostas de chamadas e a execução efetiva.
  • Defina critérios de aceitação para correção, latência e custo total da tarefa antes da adoção. Mantenha a configuração anterior disponível caso a prévia se comporte de outra forma.

A data do evento corresponde ao anúncio original. A data de publicação indica quando o artigo apareceu na Codorc.

Continue lendo

Todas as histórias
Um orc programador de pele verde-musgo mede um conector de cobre com um paquímetro, ao lado de uma porta em tom de lavanda e de uma pequena lhama de cerâmica cor de creme.
Código e agentesggml-org / Hugging Face

llama.cpp 1.0: confira a API e a ABI antes de atualizar

As versões do llama.cpp e do ggml de 13 de novembro estabelecem limites explícitos de compatibilidade para as bibliotecas. Em uma integração existente, revise as APIs removidas, mantenha cabeçalhos e binários alinhados e verifique os pares RPC antes de trocar a compilação implantada.

Um orc programador de pele verde-musgo ajusta um controle de cobre ligado a peças de repositórios em tom de lavanda, enquanto um cabeçote de varredura de vidro permanece apagado em um braço de madeira.
Código e agentesGitHub

API do GitHub AI Scan: habilitar não significa concluir uma análise

A atualização do GitHub de 13 de novembro adiciona controles repository_scan à API REST do AI Scan. As equipes podem gerenciar as configurações de implantação por código, mas a herança de políticas, as falhas em atualizações conjuntas e as análises manuais ainda precisam de verificações separadas.

Um pequeno robô de oficina verde-musgo encaixa componentes de interface em tom lavanda em uma moldura de latão, ao lado de bandejas de componentes organizadas.
Código e agentesGoogle Developers

A2UI 1.0: confira o suporte dos renderizadores antes de migrar

O Google anunciou a primeira versão estável do protocolo A2UI em 11 de novembro. Para desenvolvedores, o próximo passo útil é verificar a integração versão por versão: um protocolo estável não significa que todos os renderizadores ou ambientes hospedeiros tenham concluído a atualização.