論文の概要: Nanbeige4.2-3B on Apple Silicon: Fixing Deployment Bugs and Decreasing Looped Transformer Memory Overhead

• arxiv url: http://arxiv.org/abs/2608.13987v1
• Date: Fri, 14 Aug 2026 06:05:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-17 20:14:29.292614
• Title: Nanbeige4.2-3B on Apple Silicon: Fixing Deployment Bugs and Decreasing Looped Transformer Memory Overhead
• Title（参考訳）: Apple SiliconのNanbeige4.2-3B: デプロイバグの修正とループトランスフォーマーメモリオーバーヘッドの削減
• Abstract要約: Nanbeige4.2-3BはLooped Transformer (LT) を中心に構築され、第2のフォワードパスのために1つのスタック層を再利用する。 これらのバグの修正は、エージェント的なタスクにはまだ不十分であることを示す。 チャンクド・プレフィル戦略を導入し,メモリ不足の軽減を図る。
• 参考スコア（独自算出の注目度）: 0.5076419064097732
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Nanbeige4.2-3B is a 3B-parameter agentic model built around a Looped Transformer (LT) that reuses one stack of layers for a second forward pass, adding effective depth without additional parameters. Evaluated on Apple Silicon (MPS), we identify five independent bugs which prevent the released checkpoint from running via Hugging Face transformers out of the box (including a silently-zeroed RoPE buffer and calls to removed transformers cache APIs). Furthermore, we show that fixing these bugs is still not sufficient for agentic tasks, due to the LT's layer-reuse strategy (which effectively doubles peak attention memory) used to achieve parameter efficiency. We thus introduce a chunked-prefill strategy which alleviates the incurred memory-capacity penalty, extending allowable context width by $2.7 \times$ on 32~GiB shared memory. However, even with the reduced memory overhead, we show that patches are required to render Nanbeige4.2-3B usable; resolving both system prompt and MPS-native memory bugs finally allows reliable evaluation on standard MCP and tool-calling benchmarks. On a subset of MCPMark, the debugged model completes up to 30\% of real agentic tasks (up from the original's 0\%), while, on BFCL, it is near-perfect at single tool calls (yet fails the majority of multi-tool tests). We release the patched checkpoint, system prompt optimizer, and evaluation harnesses at https://github.com/johnhalloran321/Nanbeige4.2-3B-mps-fix.
• Abstract（参考訳）: Nanbeige4.2-3BはLooped Transformer (LT) を中心に構築された3Bパラメータのエージェントモデルである。 Apple Silicon (MPS)で評価された5つの独立したバグは、リリース済みのチェックポイントがHugging Face Transformer経由で実行されないようにするためである(サイレントゼロのRoPEバッファと削除されたTransformerキャッシュAPIへの呼び出しを含む)。 さらに、LTの層再使用戦略(ピークアテンションメモリを効果的に倍増させる)がパラメータ効率を達成するために使用されるため、これらのバグの修正はエージェントタスクにはまだ不十分であることを示す。 そこで我々は,32～GiB共有メモリ上で,許容可能なコンテキスト幅を2.7 \times$で拡張するチャンクプレフィル戦略を導入する。 しかし、メモリオーバーヘッドが減ったとしても、Nanbeige4.2-3Bのレンダリングにはパッチが必要であり、システムプロンプトとMPSネイティブメモリのバグを解消することで、標準のMPPとツールコールベンチマークの信頼性評価が可能になった。 MCPMarkのサブセットでは、デバッグされたモデルは、実際のエージェントタスクの最大30%(元の0倍)を完了しますが、BFCLでは、単一のツール呼び出しでほぼ完璧です(これはマルチツールテストの大部分を失敗します)。 パッチされたチェックポイント、システムプロンプトオプティマイザ、評価ハーネスをhttps://github.com/johnhalloran321/Nanbeige4.2-3B-mps-fixでリリースします。

関連論文リスト

• Dual-Grained Agent Memory and Shapley Context Attribution for Multimodal Agentic Learner [55.80248281761638]
  マルチモーダルな大言語モデル (MLLM) は、科学的および数学的推論において、印象的な認識を提供する。 本稿では,DG-Memを提案する。DG-Memは,トレーニングタイムのロールアウトから一度構築した外部記憶メモリと,テスト時に読み取り専用に相談することで,凍結したMLLMを拡張可能なエージェントメモリフレームワークである。
  論文  参考訳（メタデータ） (2026-08-24T13:56:01Z)
• MemGuard: Persisting Verifier Signals for LLM-Agent Memory Governance [21.021172368088504]
  LLMエージェントは、単一プロンプトの使用から、再利用可能なメモリがコア機能となる長いタスクストリームへと移行している。 MemGuardは検証結果を1ショットのフィルタではなく、永続的なライフサイクルメタデータとして扱う。 MemGuardは16のバックボーンベンチマーク設定で最高の成功基準と最低平均ステップを達成する。
  論文  参考訳（メタデータ） (2026-08-22T09:25:23Z)
• The Recall Trap: A Recall-Maximizing Retriever Configuration Reduces Issue Resolution in Fixed-Budget Code Context [45.88028371034407]
  コード修復における制御ケーススタディを報告し,新しい現象ではない。 私たちは、同じスタック上の1つのフラグ(1チャンク毎の重複)を切り替えます。 BM25(3.2pp、重要なパラダイム間相互作用)を逆転させる。 厳格な固定予算では、ファイルごとのハードダイドプリケートや、タスクに対するA/Bパッケージングポリシは、メトリックフラグを調整しないことが示されます。
  論文  参考訳（メタデータ） (2026-08-14T19:22:50Z)
• Benchmarking LLM-Guided Control-Plane Policies for Backend Fault Isolation in HAProxy [0.0]
  我々は、大規模言語モデルが静的ルーティングポリシーそのものを置き換えることができるかどうかを問う。 3B 能動パラメータの近傍で能動閾値を求める。 その上、アーキテクチャに関係なく、すべてのモデルは、クライアントが認識した5xxエラーの88%近くを飽和させます。
  論文  参考訳（メタデータ） (2026-08-11T06:15:20Z)
• Agent Memory Distillation: Empowering Small LLM Agents with Hierarchical Teacher Memory [49.6908961629532]
  エージェントメモリ蒸留(Agen Memory Distillation、AMD)は、大規模な教師エージェントから階層的な記憶を通じて、構造化された知識を小さな学生エージェントに転送する、トレーニング不要のフレームワークである。 メモリはタスクレベルの戦略を符号化し、サブタスクメモリは具体的な振る舞いの例を提供し、ファンクションメモリは関数ごとの呼び出し規約をキャプチャする。 GPT-5-miniを教師とする4つの学生モデル(4B-8Bパラメータ)を用いた3つのツールユースベンチマークでAMDを評価し,平均精度27.2%p,11.2%p,3.4%pのAppWorld,BFCL Vを用いた。
  論文  参考訳（メタデータ） (2026-08-07T12:43:00Z)
• AgentDebugX: An Open-Source Toolkit for Failure Observability, Attribution, and Recovery in LLM Agents [83.37969790806069]
  LLMエージェントのエラーは、エラーが表面化するステップが原因ではないことが多いため、デバッグが難しい。 Agent DebuggerXはオープンソースのフレームワークで、デバッグをDe Detect, Attribute, Recover, Rerunのクローズドループとして整理する。 コアとなるDeep Debuggerは、グローバルな軌跡理解を通じてマルチターン根本原因診断を行う。
  論文  参考訳（メタデータ） (2026-07-21T06:21:13Z)
• Asymmetric Virtual Memory Paging for Hybrid Mamba-Transformer Inference [0.0]
  Jambaのようなハイブリッド言語モデルは、注意層とステートスペースモデル(SSM)を混合します。 統一プールパッドSSMは、ページサイズが7.3倍になる。 非対称仮想メモリページング(AVMP)は、2つのキャッシュタイプを仮想アドレス空間の後方にある物理的に異なるプールに分離する。
  論文  参考訳（メタデータ） (2026-05-21T12:37:34Z)
• MemGym: a Long-Horizon Memory Environment for LLM Agents [69.79226770543049]
  本稿では,エージェントメモリのベンチマークであるMemGymを紹介する。 MemGymは、メモリパフォーマンスを推論、検索、ツール使用能力から切り離すメモリアイソレーションスコアを報告している。 MEMGYM-CODEQAとMEMGYM-DRの合成パイプラインは、長さ制御可能であり、各ステージでアブレーションを検証可能であり、下流のシナリオと密に整合している。
  論文  参考訳（メタデータ） (2026-05-20T07:25:33Z)
• When Simulation Lies: A Sim-to-Real Benchmark and Domain-Randomized RL Recipe for Tool-Use Agents [32.54888729689753]
  ツール使用による部分的に観測可能なマルコフ決定過程(POMDP)における実測ギャップとしての失敗について検討する。 本稿では,ドメインランダム化強化学習(RL)レシピであるToolRL-DRを提案する。 3Bバックボーンでは、ToolRL-DR-Fullは約4分の3のクリーンな精度を維持し、オープンソースの14B関数呼び出しベースラインに匹敵する集計精度に達する。
  論文  参考訳（メタデータ） (2026-05-12T10:40:28Z)
• NextMem: Towards Latent Factual Memory for LLM-based Agents [58.35585202907478]
  NextMemは、自動回帰型オートエンコーダを使用して、潜時メモリを効率的に構築する、潜時ファクトメモリフレームワークである。 大規模な実験は、NextMemが優れたパフォーマンスを達成することを示す。
  論文  参考訳（メタデータ） (2026-02-26T14:35:27Z)
• Memory-Efficient Structured Backpropagation for On-Device LLM Fine-Tuning [10.913120072779193]
  デバイス上での微調整により、大きな言語モデルのプライバシ保護によるパーソナライズが可能になる。 モバイルデバイスは、すべてのワークロード間で共有される6～12GBの厳しいメモリ制約を課す。 メモリ効率のよい構造化バックプロパゲーション(MeSP)を提案する。 MeSPはピークメモリを361MBから136MBのQwen2.5-0.5Bに減らし、これまで不可能だった微調整シナリオを実現する。
  論文  参考訳（メタデータ） (2026-02-13T16:24:33Z)
• InfMem: Learning System-2 Memory Control for Long-Context Agent [43.413381779578266]
  InfMemは、PreThink-Retrieve-Writeプロトコルを介してSystem-2スタイルの制御をインスタンス化する制御中心のエージェントである。 32kから100Mまでの超長期のQAベンチマークでは、InfMemはバックボーン全体でMemAgentを一貫して上回っている。
  論文  参考訳（メタデータ） (2026-02-02T19:15:08Z)
• A Simple Linear Patch Revives Layer-Pruned Large Language Models [58.056251480151104]
  大規模言語モデル(LLM)の圧縮技術として広く使われているレイヤプルーニング(Layer pruning)が登場している。 textscLinearPatchはプルーニングインターフェイスで2つの操作を1つの行列に乗算する。 パッチはメモリ効率の悪いオフライン蒸留によって5Kの未ラベルのサンプルでさらに洗練され、1つのGPUでわずか30分で95.16%に保留できる。
  論文  参考訳（メタデータ） (2025-05-30T15:06:08Z)
• A Fast Post-Training Pruning Framework for Transformers [74.59556951906468]
  プルーニングは、大きなTransformerモデルの巨大な推論コストを削減する効果的な方法である。 モデルプルーニングの以前の作業では、モデルの再トレーニングが必要だった。 本稿では,再学習を必要としないトランスフォーマーのための高速な訓練後プルーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-03-29T07:41:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。