保存済みツールを推薦
FOXAI SEARCH

サイト内検索

ニュース記事 140

inference-systems

b11941

model : add LiquidAI/LFM3-Audio-2B and LiquidAI/LFM3-Omni-2B (#31257) * model : add LiquidAI/LFM3-Audio-2B and LiquidAI/LFM3-Omni-2B Co-authored-by: Xuan Son Nguyen Assisted-by: Claude Opus 5.5 * convert : read the LFM3-Audio config.json as released A transformers that knows lfm3_audio rewrites the config into another layout (no lfm/encoder keys). Assisted-by: Claude Opus 5.5 * mtmd : disable flash attention for the LFM3-Audio depthformer Assisted-by: Claude Opus 5.5 * tts : add a voice option for LFM3-Audio and LFM3-Omni The model card offers a female and a male voice; --tts-voice for llama-tts, "voice" for the server /tts. Assisted-by: Claude Opus 5.5 * clean up template handling * convert : detect LFM3-Audio and LFM3-Omni by model_type Assisted-by: Claude Opus 5.5 * move banned tokens -

翻訳サービスが停止中のため原文を表示しています。
llama.cpp のリリース
image-generation

TraceQuery：拡散言語モデルにおけるフルデノイズング軌跡から再計算すべき内容を学習する

arXiv:2610.33008v1 公告タイプ：新規 要旨：拡散型大規模言語モデル（dLLMs）は、反復的なマスク付きデノイズングによって柔軟な生成を実現する一方で、デノイズングの各ステップにおいてトークン表現を繰り返し再計算するため、推論コストが大幅に増加します。既存のキャッシュベースの手法では、デノイズングの各ステップ間で中間結果を再利用し、各ステップごとに固定スケジュールまたは変化を示すヒューリスティック信号に基づいて選択された一部の位置のみを再計算することで、このコストを低減しています。一方、我々の軌跡実験は、むしろデコード軌跡こそがより重要な指標であることを示唆しています。キャッシュによる生成は、完全なデノイズング軌跡に近い状態を維持している限り精度を保ち、誤差は主にマスク順序の逸脱に集中し、参照プレフィックスが長くなるほど減少することが明らかになりました。これにより…

arXiv cs.CL
inference-systems

b11919

opencl: refine mul mat id -1 index (#31170) Assisted-by: Codex **Website:** - **Attestations:** - **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b11919/llama-b11919-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64, KleidiAI enabled) [DISABLED](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel (x64)](https://github.com/ggml-org/llama.cpp/releases/download/b11919/llama-b11919-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b11919/llama-b11919-xcframework.zip) **Linux:** - [Ubuntu x64 (CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b11919/llama-b11919-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64 (CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b11

翻訳サービスが停止中のため原文を表示しています。
llama.cpp のリリース
inference-systems

b11929

common : --model or -hf is required (#31242) Assisted-by: Codex **Website:** - **Attestations:** - **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b11929/llama-b11929-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64, KleidiAI enabled) [DISABLED](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel (x64)](https://github.com/ggml-org/llama.cpp/releases/download/b11929/llama-b11929-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b11929/llama-b11929-xcframework.zip) **Linux:** - [Ubuntu x64 (CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b11929/llama-b11929-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64 (CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b1

翻訳サービスが停止中のため原文を表示しています。
llama.cpp のリリース