Código y agentesggml-org / Hugging Face

llama.cpp 1.0: comprueba la API y la ABI antes de actualizar

Las versiones de llama.cpp y ggml del 13 de noviembre establecen límites explícitos de compatibilidad para sus bibliotecas. Si ya tienes una integración, revisa las API eliminadas, mantén alineadas las cabeceras y los binarios, y comprueba los pares RPC antes de cambiar la compilación desplegada.

Un orco programador de color verde musgo mide un conector de cobre con un calibrador, junto a un puerto de color lavanda y una pequeña llama de cerámica color crema.
Ilustración conceptual.

La promesa de compatibilidad tiene un alcance definido

El 13 de noviembre, ggml-org anunció la versión 1.0.0 de las bibliotecas libllama y libggml. El equipo indica que las incompatibilidades de API y ABI se reflejarán en cambios de versión mayor. Su tabla de versionado asigna un incremento de versión mayor a los cambios incompatibles en la API pública de C bajo ./include, uno de versión menor a las incorporaciones compatibles con versiones anteriores y uno de parche a las correcciones sin cambios en la API.

Para quien mantiene una integración, la API es la interfaz a nivel de código fuente que utiliza el código que llama a la biblioteca; la ABI es la interfaz binaria entre componentes compilados. El anuncio proporciona una señal de versión más clara para esos límites de las bibliotecas. No establece que todas las opciones de línea de comandos, los endpoints del servidor, las cabeceras internas o los enlaces para otros lenguajes tengan el mismo contrato de compatibilidad. Comprueba de qué interfaz depende realmente tu aplicación.

Empieza por las API que utiliza tu enlace

Las notas de llama.cpp v1.0.0 eliminan explícitamente API públicas obsoletas. Entre los cambios nombrados están la eliminación de llama_set_warmup y el cambio de nombre de llama_set_embd_state_src a llama_set_ctx_state_src; la API NextN de decodificación especulativa pasa a llama.h. Por tanto, esta versión requiere revisar la migración del código fuente, aunque la nueva política de versionado busque aclarar los límites de compatibilidad futuros.

Prepara un pequeño inventario de las funciones, estructuras y cabeceras que utiliza tu capa de integración, incluidos los enlaces generados para funciones de otros lenguajes. Contrasta ese inventario con las notas de la versión fijada y las cabeceras públicas antes de actualizar el archivo de bloqueo de dependencias. Si un enlace incorpora una copia de una versión anterior, determina qué versión de la biblioteca admite en lugar de suponer que se puede sustituir sin riesgo por una biblioteca compartida más reciente.

Mantén alineadas las cabeceras, las bibliotecas y las opciones de compilación

Fijar una etiqueta del código fuente es solo una parte de un paquete reproducible. Una compilación puede utilizar un conjunto de cabeceras y después cargar otra biblioteca compartida durante la ejecución. Registra los archivos de biblioteca que se incluyen realmente en la aplicación o que resuelve su cargador, junto con la plataforma de destino, el compilador y los motores de ejecución habilitados. Son comprobaciones de despliegue propuestas por Codorc, no garantías adicionales del anuncio.

La guía de compilación fijada a la etiqueta es un buen punto de partida para el motor de ejecución que utilices. Vuelve a compilar el código que llama a la biblioteca y su enlace con el conjunto de dependencias previsto, y ejecuta después la aplicación empaquetada en un entorno limpio. Conserva un paquete que sepas que funciona mientras compruebas la carga del modelo, la creación del contexto, la generación y el cierre. Los números de versión no garantizan un comportamiento idéntico entre sistemas operativos, controladores, modelos o formatos de cuantización.

Coordina las actualizaciones RPC si utilizas motores remotos

Las notas de ggml v1.0.0 eliminan las operaciones antiguas DIAG_MASK_INF y DIAG_MASK_ZERO y describen el paso del protocolo RPC a v9, con rechazo de pares incompatibles. Si tu despliegue utiliza RPC, comprueba conjuntamente la compatibilidad del protocolo del cliente y del servidor. Una prueba básica de inferencia local no comprueba esa ruta remota. Planifica una prueba acotada de actualización de los pares y conserva un conjunto compatible al que puedas volver; esto no significa que todos los pares deban tener exactamente la misma versión de parche.

Conserva un registro de migración que puedas reproducir

Las siguientes comprobaciones convierten un cambio de versión en una prueba de integración que se puede revisar. No las hemos ejecutado con estas versiones y no constituyen una clasificación de rendimiento:

  • Registra la versión o el commit exactos, la versión de la capa de integración, las cabeceras públicas, las opciones de compilación y los archivos de biblioteca empaquetados. Conserva una suma de comprobación del archivo del modelo utilizado para comparar.
  • Vuelve a compilar un programa mínimo que utilice las funciones y estructuras públicas de las que depende tu aplicación. Incluye las rutas de error y liberación de recursos, además de una generación correcta.
  • Ejecuta la aplicación empaquetada en cada plataforma y motor de ejecución admitidos. Comprueba qué biblioteca se carga realmente, la inicialización del modelo, el tratamiento de las salidas y la liberación de recursos.
  • En los despliegues RPC, registra ambos pares y sus versiones de protocolo. Prueba una conexión compatible y otra con un par deliberadamente incompatible, sin involucrar una carga de trabajo de producción.
  • Compara con el mismo modelo, las mismas instrucciones, la misma configuración de contexto y los mismos criterios de aceptación de la tarea. Registra el tiempo de carga, el tiempo de generación, el uso de memoria y los fallos, en lugar de atribuir cada cambio al número de versión.
  • Define una condición para volver a la versión anterior antes del despliegue. Conserva el paquete anterior compatible de aplicación, enlace y biblioteca para que una actualización fallida no obligue a reconstruirlo a partir de una compilación sin versión fijada.

Mide el resultado en la aplicación que distribuyes

Las notas de las versiones también describen cambios en los motores de ejecución y en los modelos admitidos, pero esas listas no demuestran una mejora de velocidad o calidad para tu carga de trabajo. Trata las afirmaciones de compatibilidad como declaraciones de los responsables del proyecto hasta probar el hardware y el paquete pertinentes. Una decisión de actualización útil combina los límites de compatibilidad documentados con el comportamiento observado de la aplicación; no debería basarse únicamente en la etiqueta 1.0.

La fecha del suceso corresponde al anuncio original. La fecha de publicación indica cuándo apareció el artículo en Codorc.

Continúa leyendo

Todas las historias
Un orco programador de color verde musgo elige un destornillador con mango de cobre de un panel de herramientas lavanda, junto a un arcón de herramientas cerrado de color ciruela con un cierre de cobre.
Código y agentesGoogle / Introducing Tool Retrieval in the Gemini API

Gemini Tool Retrieval: comprueba el límite entre descubrir y ejecutar herramientas

Google presentó Tool Retrieval en versión preliminar el 19 de noviembre. La API Interactions de Gemini puede cargar esquemas de herramientas cuando se necesitan, pero los desarrolladores aún deben distinguir entre descubrimiento, ejecución, autorización y el coste total de completar una tarea.

Un orco programador de color verde musgo ajusta un mando de cobre conectado a unas fichas de repositorios de color lavanda, mientras un cabezal de escaneo de cristal permanece apagado en un brazo de madera.
Código y agentesGitHub

API de GitHub AI Scan: activar la función no equivale a completar un análisis

La actualización de GitHub del 13 de noviembre añade controles repository_scan a la API REST de AI Scan. Los equipos pueden gestionar la configuración del despliegue mediante código, pero la herencia de políticas, los fallos en actualizaciones conjuntas y los análisis manuales siguen necesitando comprobaciones independientes.

Un pequeño robot de taller verde musgo encaja componentes de interfaz de color lavanda en un marco de latón, junto a bandejas de componentes ordenadas.
Código y agentesGoogle Developers

A2UI 1.0: comprueba el soporte de los renderizadores antes de migrar

Google anunció la primera versión estable del protocolo A2UI el 11 de noviembre. Para los desarrolladores, el siguiente paso útil es comprobar la integración versión por versión: que el protocolo sea estable no significa que todos los renderizadores o entornos anfitriones hayan completado su actualización.