llama.cpp (Stable) 1.0.0 重要
llama.cpp v1.0.0 は非推奨の公開 API 35 件などを削除し、llama.h の API も変わった(破壊的変更)。llama-server では CORS・DNS リバインディング・SSRF の問題が修正され、音声合成用の /v1/audio/speech エンドポイントも追加された。FP8 KV キャッシュや新モデル対応、Web UI の刷新も含む。
Blog post: https://huggingface.co/blog/ggml-org/llama-cpp-v1 Overview llama.cpp v1.0.0 removes the deprecated public API and promotes the NextN/speculative API to llama.h, adds OCP FP8 KV caches, a host-memory MoE expert cache with a configurable CPU share, and loading of external PLE shards. It adds three text architectures (Kimi-K3.1-Pro, Ripple and xing4_0), drama-3 TTS, and MageVL-Cowork and Kimi-K3.1 vision, hardens llama-server (SSRF, CORS, DNS rebinding, MCP tool cancellation) and adds…github.com
誕生から約3年半、ローカルAIの推論エンジン「llama.cpp」がv1.0.0に/テンソルライブラリ「ggml」も同時にメジャーアップデート、今後はセマンティックバージョニングを採用大規模言語モデル(LLM)の推論エンジン「llama.cpp」が11月13日、v1.0.0へとアップデートされた。機械学習向けのテンソルライブラリ「ggml」も、同日付けでv1.0.0がリリースされている。こちらで見つけた日
まだ来ていない日付