A promessa de compatibilidade tem um limite definido
Em 13 de novembro, a ggml-org anunciou a versão 1.0.0 das bibliotecas libllama e libggml. A equipe afirma que incompatibilidades de API e ABI serão refletidas em mudanças de versão principal. A tabela de versionamento publicada determina um incremento da versão principal para mudanças incompatíveis na API pública em C sob ./include, da versão secundária para adições compatíveis com versões anteriores e da versão de correção para ajustes sem mudanças na API.
Para quem mantém uma integração, a API é a interface no nível do código-fonte usada pelo código que chama a biblioteca; a ABI é a interface binária entre componentes compilados. O anúncio oferece um sinal de versão mais claro para esses limites das bibliotecas. Não estabelece que toda opção de linha de comando, endpoint do servidor, cabeçalho interno ou binding para outra linguagem tenha o mesmo contrato de compatibilidade. Verifique de qual interface sua aplicação realmente depende.
Comece pelas APIs que seu binding utiliza
As notas do llama.cpp v1.0.0 removem explicitamente APIs públicas obsoletas. Entre as mudanças citadas estão a remoção de llama_set_warmup e a renomeação de llama_set_embd_state_src para llama_set_ctx_state_src; a API NextN de decodificação especulativa passa para llama.h. Portanto, essa versão exige uma revisão da migração do código-fonte, embora a nova política de versionamento tenha o objetivo de esclarecer os limites de compatibilidade futuros.
Monte um pequeno inventário das funções, estruturas e cabeçalhos que seu wrapper utiliza, incluindo bindings gerados para funções de outras linguagens. Confira esse inventário nas notas da versão fixada e nos cabeçalhos públicos antes de atualizar o arquivo de bloqueio de dependências. Se um binding inclui uma cópia de uma versão anterior, determine qual versão da biblioteca ele suporta, em vez de supor que é seguro substituí-la por uma biblioteca compartilhada mais recente.
Alinhe cabeçalhos, bibliotecas e opções de compilação
Fixar uma tag do código-fonte é apenas uma parte de um pacote reproduzível. Uma compilação pode usar um conjunto de cabeçalhos e depois carregar outra biblioteca compartilhada durante a execução. Registre os arquivos de biblioteca realmente incluídos na aplicação ou resolvidos pelo carregador, junto da plataforma de destino, do compilador e dos backends habilitados. Essas são verificações de implantação sugeridas pelo Codorc, não garantias adicionais do anúncio.
O guia de compilação fixado na tag é um bom ponto de partida para o backend que você usa. Recompile o código que chama a biblioteca e seu binding com o conjunto de dependências pretendido e, depois, execute a aplicação empacotada em um ambiente limpo. Mantenha disponível um pacote que comprovadamente funciona enquanto verifica o carregamento do modelo, a criação do contexto, a geração e o encerramento. Números de versão não garantem comportamento idêntico entre sistemas operacionais, drivers, modelos ou formatos de quantização.
Coordene as atualizações RPC quando usar backends remotos
As notas do ggml v1.0.0 removem as operações legadas DIAG_MASK_INF e DIAG_MASK_ZERO e descrevem a mudança do protocolo RPC para v9, com rejeição de pares incompatíveis. Se sua implantação usa RPC, verifique em conjunto a compatibilidade de protocolo do cliente e do servidor. Um teste básico de inferência local não exercita esse caminho remoto. Planeje um teste delimitado de atualização dos pares e mantenha um conjunto compatível para reversão; isso não significa que todos os pares precisam ter exatamente a mesma versão de correção.
Mantenha um registro de migração que você consiga reproduzir
As verificações a seguir transformam uma mudança de versão em um teste de integração que pode ser revisado. Não as executamos com essas versões, e elas não constituem uma classificação de desempenho:
- Registre a versão ou o commit exato, a versão do wrapper, os cabeçalhos públicos, as opções de compilação e os arquivos de biblioteca empacotados. Guarde uma soma de verificação do arquivo do modelo usado na comparação.
- Recompile um programa mínimo que utilize as funções e estruturas públicas das quais sua aplicação depende. Inclua caminhos de erro e liberação de recursos, além de uma geração bem-sucedida.
- Execute a aplicação empacotada em cada plataforma e backend suportados. Verifique qual biblioteca realmente é carregada, a inicialização do modelo, o tratamento das saídas e a liberação de recursos.
- Em implantações RPC, registre os dois pares e suas versões de protocolo. Teste uma conexão compatível e outra com um par deliberadamente incompatível, sem envolver uma carga de trabalho de produção.
- Compare usando o mesmo modelo, os mesmos prompts, as mesmas configurações de contexto e os mesmos critérios de aceitação da tarefa. Registre o tempo de carregamento, o tempo de geração, o uso de memória e as falhas, em vez de atribuir toda mudança ao número de versão.
- Defina uma condição de reversão antes da implantação. Mantenha o pacote anterior compatível de aplicação, binding e biblioteca para que uma atualização malsucedida não exija reconstruí-lo a partir de uma compilação sem versão fixada.
Meça o resultado na aplicação que você distribui
As notas das versões também descrevem mudanças nos backends e no suporte a modelos, mas essas listas não comprovam ganhos de velocidade ou qualidade para sua carga de trabalho. Trate as afirmações de suporte como declarações dos mantenedores até testar o hardware e o pacote relevantes. Uma decisão útil de atualização combina os limites de compatibilidade documentados com o comportamento observado da aplicação; não deve se apoiar apenas no rótulo 1.0.
A data do evento corresponde ao anúncio original. A data de publicação indica quando o artigo apareceu na Codorc.



