Código abiertoPara tener en cuenta

llama.cpp y ggml llegan a la v1.0.0: los cambios que rompen compatibilidad ahora suben la versión mayor

Después de unos tres años y medio de builds numerados, el proyecto de inferencia local adopta versionado semántico para sus librerías en C y aprovecha la 1.0 para limpiar su API obsoleta.

Promptea Editorial4 min de lectura

Los mantenedores de llama.cpp publicaron el viernes la v1.0.0 del proyecto, junto con la v1.0.0 de ggml, la librería de tensores sobre la que corre. El anuncio salió en un post del blog de Hugging Face firmado por Daniel Bevenius, Georgi Gerganov y merve, de ggml-org, acompañado de una release etiquetada en GitHub marcada como la última del proyecto.

La noticia es el número de versión. Durante casi todos sus tres años y medio, llama.cpp se publicó como un flujo continuo de builds identificados por número (la página de releases todavía lista builds nocturnos como b12370), y los proyectos que dependen de él no tenían una señal simple para saber cuándo una actualización los iba a romper. Los mantenedores dicen que hoy muchas aplicaciones dependen de estas librerías y que la v1.0.0 refleja su "responsabilidad con esos desarrolladores".

Qué prometen ahora los números de versión

El post fija una política de versionado semántico para las dos librerías, `libllama` (headers públicos en `llama.cpp/include/`) y `libggml` (headers en `ggml/include/`):

  • Mayor: un cambio incompatible en la API pública en C del directorio include.
  • Menor: funcionalidades compatibles hacia atrás, actualizaciones de backends, soporte para nuevos modelos o agregados a la API.
  • Parche: correcciones de bugs sin cambios en la API.

El texto del post va un poco más allá y dice que las incompatibilidades de API y de ABI se van a reflejar en la versión mayor; la tabla de reglas, en cambio, solo menciona la API en C. El post no habla de una cadencia de releases ni de una ventana de soporte a largo plazo, así que la v1.0.0 es un compromiso sobre cómo se va a etiquetar lo que se rompe, no sobre cuánto tiempo se va a mantener cada versión.

Una limpieza antes de que arranque la promesa

Como corresponde, la 1.0 en sí rompe compatibilidad. Según las notas de la release, elimina `llama_set_warmup`, 35 funciones obsoletas y el parámetro `defrag_thold` junto con su flag `--defrag-thold`. También renombra `llama_set_embd_state_src` a `llama_set_ctx_state_src` y pasa la API NextN de decodificación especulativa de un header de extensión a `llama.h`. Si enlazás libllama directamente, contá con tener que tocar código al pasar desde la rama 0.x: las notas enumeran lo que se eliminó, pero no traen una guía de migración.

ggml v1.0.0 también elimina APIs obsoletas y las operaciones legacy `DIAG_MASK`, suma truncado configurable de YaRN y soporte FP8, e incluye mejoras de rendimiento en los backends CUDA, Metal, Vulkan, SYCL, OpenCL, WebGPU y Hexagon.

Qué más trae la release

  • Cachés KV en FP8, que se eligen con `-ctk/-ctv f8_e4m3`, con escalas estáticas por tensor opcionales. Una caché de 8 bits ocupa la mitad de memoria que la de 16 bits por defecto, algo que pesa sobre todo en contextos largos; las notas no publican mediciones de calidad.
  • Una caché de expertos MoE en memoria del host, configurable con los nuevos parámetros `moe_cache_size` y `moe_cache_cpu_share`, pensada para correr modelos mixture-of-experts cuyos pesos no entran en la memoria de la GPU.
  • Soporte para nuevos modelos, entre ellos Kimi-K3.1-Pro, Ripple-65B-Preview, xing4_0 y el modelo de texto a voz drama-3, además de visión para Kimi-K3.1 y MageVL-Cowork.
  • Cambios en llama-server: correcciones de CORS, DNS rebinding y un SSRF en el proxy CORS, opt-ins explícitos para herramientas sin autenticación y URLs de medios privadas, un `HF_TOKEN` restringido a huggingface.co, un nuevo endpoint `/v1/audio/speech` y una interfaz web rediseñada.
  • Salidas estructuradas: soporte de `response_format` en más parsers de chat, arreglos en JSON schema y en argumentos de herramientas, y conversión de esquemas `text.format` al estilo de la API Responses.

Los mantenedores dicen además que están escalando la CI con Buckets y Jobs de Hugging Face, con runners propios respaldados por hardware de NVIDIA, AMD, Qualcomm, Arm, IBM e Intel, y que llama.cpp cubre más de 150 variantes de arquitectura. Esas cifras las da el propio proyecto.

Qué cambia para quienes desarrollan

Si corrés modelos localmente con herramientas construidas sobre llama.cpp, de un día para el otro cambia poco: esas herramientas van a incorporar la release a su propio ritmo. El cambio concreto es para quien embebe `libllama` o `libggml` directamente o las empaqueta. Hasta ahora, fijar un número de build era la única defensa contra roturas silenciosas. De acá en adelante, la versión mayor debería llevar esa señal, lo que vuelve utilizables los rangos de dependencias de siempre.

Los cambios del servidor merecen una mirada aparte. Si exponés `llama-server` más allá de localhost, o lo usás para salidas restringidas por JSON schema desde un cliente compatible con OpenAI, probá la actualización antes: varias correcciones de seguridad pasan comportamientos a opt-in, y los arreglos de salidas estructuradas pueden cambiar cómo se interpretan esquemas que ya tenés.

Al momento de publicar, la cobertura independiente de la release no se pudo abrir desde el entorno de investigación de Promptea, así que los detalles de esta nota se apoyan en el post y las notas de release del propio proyecto.

Por qué importa

  • llama.cpp está debajo de una gran parte de las herramientas de inferencia local, así que una promesa de versionado suya afecta cómo buena parte de ese ecosistema maneja las actualizaciones.
  • La 1.0 elimina funciones obsoletas y renombra otras, así que el código que enlaza libllama directamente probablemente necesite cambios.
  • Las cachés KV en FP8 y la caché de expertos MoE apuntan a los dos cuellos de botella típicos en local: la memoria de contextos largos y los modelos mixture-of-experts grandes.

Puntos clave

  • llama.cpp v1.0.0 y ggml v1.0.0 se publicaron el 13 de noviembre de 2026.
  • Un cambio incompatible en la API pública en C ahora exige subir la versión mayor; los builds nocturnos numerados siguen saliendo junto a las releases etiquetadas.
  • La release elimina llama_set_warmup, 35 funciones obsoletas y defrag_thold, y suma cachés KV en FP8, una caché de expertos MoE y correcciones de seguridad en llama-server.

Fuentes

  1. Hugging Face (ggml-org)Fuente primaria
    llama.cpp v1.0.0: A stronger foundation for the local AI ecosystem
    huggingface.co
  2. GitHub (ggml-org/llama.cpp)Fuente primaria
    Release v1.0.0 · ggml-org/llama.cpp
    github.com

Cómo elegimos y verificamos las fuentes

Etiquetas:
  • llama.cpp
  • ggml
  • local inference
  • semantic versioning
  • open source
  • KV cache
Empresas:
  • ggml-org
  • Hugging Face
Modelos:
  • Kimi-K3.1-Pro
  • Ripple-65B-Preview
llama.cpp v1.0.0: versionado semántico y limpieza de API · Promptea