論文の概要: Acquire, Repair, Preserve: A Diagnosis-Guided Post-Training Recipe for Small-Model Dialogue Game Agents
- arxiv url: http://arxiv.org/abs/2608.28458v1
- Date: Fri, 28 Aug 2026 15:47:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-31 17:16:04.385321
- Title: Acquire, Repair, Preserve: A Diagnosis-Guided Post-Training Recipe for Small-Model Dialogue Game Agents
- Title（参考訳）: 小型対話型ゲームエージェントのための診断ガイド付きポストトレーニングレシピの取得, 修復, 保存
- Abstract要約: 対話型対話ゲームは静的ベンチマークが暗黙的に残す機能をテストする。
2Bオープンウェイトモデルを用いたLM Playschool Challengeにおいて,この設定について検討した。
多くの失敗は、広い知識の失敗だけでなく、ローカルな決定の失敗でもあることに気付きました。
- 参考スコア（独自算出の注目度）: 3.138087702016486
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Interactive dialogue games test a capability that static benchmarks largely leave implicit: a model must carry state across turns, interpret feedback, and choose valid actions under changing constraints. We study this setting in the LM Playschool Challenge with a 2B open-weight model, and find that many failures are not only broad knowledge failures but also local decision failures: repeated guesses, malformed actions, and violations of feedback that the model has just seen. These diagnostics motivate a training recipe organized around three steps: acquire broad game participation through supervised fine-tuning, repair mechanically verifiable failures within one targeted dialogue-game family using turn-local preference pairs, and preserve general capabilities beyond these dialogue games. In the official final evaluation, our submission improves public clemscore from 10.67 to 38.92 and closed in-domain score from 13.41 to 41.17, while approximately preserving aggregate static performance (44.14 vs. 44.24 for the baseline). Out-of-domain clemscore remains low at 7.88, with the largest gains concentrated in unseen variants of the targeted family. Our results suggest that broad SFT brings most of the model's capability improvement; turn-local supervision can be effective when failure detection is precise, with observed transfer concentrated primarily within-family.
- Abstract（参考訳）: 対話型ダイアログゲームは、静的ベンチマークがほとんど暗黙的に残す機能をテストする。モデルは、ターンをまたいで状態を持ち、フィードバックを解釈し、制約の変化の下で有効なアクションを選択する必要がある。
2Bのオープンウェイトモデルを用いたLM Playschool Challengeにおいて、この設定について検討し、多くの失敗が広義の知識障害であるだけでなく、局所的な決定失敗(繰り返し推測、不正な行動、モデルが見たばかりのフィードバック違反)でもあることを発見した。
これらの診断は、教師付き微調整による広範なゲーム参加の獲得、ターンローカルな選好ペアを使用して1つの対話ゲームファミリー内で機械的に検証可能な障害の修復、およびこれらの対話ゲーム以外の一般的な機能を維持する、という3つのステップで構成されたトレーニングレシピを動機付けている。
最終評価では,10.67から38.92までの公的なクレムスコアの改善,13.41から41.17までのドメイン内スコアの閉鎖,約44.14対44.24の集合的静的パフォーマンスの維持が図られた。
ドメイン外のクレムスコアは7.88と低いままであり、最大のゲインは標的の家族の目に見えない変種に集中している。
本研究の結果から,SFTの広帯域化がモデルの性能向上に寄与することが示唆された。
関連論文リスト
- SearchAuditor: Auditing and Attributing Failures in Long-Horizon Search Agents [56.400332595452966]
我々は、監査人が検索エージェントの障害をローカライズ、属性付け、修復できるかどうかを評価するベンチマークであるSearchAuditBenchを紹介する。
SearchAuditBenchは1,243の障害トラックで構成され、平均73.1メッセージと65.1Kトークンを5つのディープサーチベンチマークで8つのオープンウェイトモデルから収集している。
本稿では,検索エージェントの障害を効果的にローカライズ,属性,修復するマルチパースペクティブ監査フレームワークであるSearchAuditorを提案する。
論文 参考訳（メタデータ） (2026-08-05T09:09:00Z) - Cybersecurity Detection Classification with Reasoning-enabled Language Models [50.72675435043546]
セキュリティオペレーションセンター(SOC)の大きな問題は、警告疲労である。
以前の作業では、大きな言語モデル(LLM)がトリアージラベルを直接出力するように促すか、あるいは微調整するが、検出が真の脅威であるかどうかを判断するよう訓練することはない。
我々は、実際の人間ラベルのWindowsエンドポイント検出に対して、推論可能なトリアージ分類器(CoT)を訓練する。
論文 参考訳（メタデータ） (2026-07-30T16:22:13Z) - Beyond the Current Observation: Evaluating Multimodal Large Language Models in Controllable Non-Markov Games [69.57330692969543]
RNG-Benchは、過去の観測を再構築するベースモデルの能力を分離するために設計されたベンチマークスイートである。
RNG-Benchには2つの補完ゲームがある: マッチングペア(英語版) - 特定の場所でカードのIDを短期間明らかにする) と、エゴセントリックなビューを空間地図に統合する3D Maze である。
最も難しい構成では、約128Kのトークンと350のイメージ入力のコンテキストが必要であり、フロンティアMLLMによる飽和には程遠いままである。
論文 参考訳（メタデータ） (2026-06-17T17:59:34Z) - ClawForge: Generating Executable Interactive Benchmarks for Command-Line Agents [59.626170560327274]
textbfClawForgeは、ステートコンフリクト下で実行可能なコマンドラインカテゴリのためのジェネレータベースのベンチマークフレームワークである。
私たちはこのフレームワークをClawForge-Bench(17のシナリオ、6の能力カテゴリ)としてインスタンス化します。
論文 参考訳（メタデータ） (2026-05-13T21:34:08Z) - Correct Answers from Sound Reasoning: Verifiable Process Supervision for Language Models [94.68358825189738]
本稿では,予測精度と推論品質を協調的に最適化する検証済み領域の学習後フレームワークを提案する。
我々は,エンジン信号に対して推論ステップを確定的に検証できる制御テストベッドであるチェスのVPSを評価する。
VPSは、推論品質を著しく向上させながら精度を保ち、勝利率エラーを最大30%削減し、一貫性をほぼ飽和状態に回復する。
論文 参考訳（メタデータ） (2026-04-03T15:19:46Z) - Reinforcement Inference: Leveraging Uncertainty for Self-Correcting Language Model Reasoning [0.0]
強化推論(Reinforcement Inference)は、モデル自身の不確実性を使用して、第二の、より意図的な推論の試みを選択的に呼び出す。
12,032のMMLU-Pro質問では、DeepSeek-v3.2を使ってゼロショット設定で決定論的デコーディングを行い、Reinforcement Inferenceは精度を60.72%から84.03%に改善した。
論文 参考訳（メタデータ） (2026-02-09T11:08:24Z) - Self-Correction Bench: Uncovering and Addressing the Self-Correction Blind Spot in Large Language Models [0.7910367295422812]
大規模言語モデル(LLM)は誤りを犯し、非生産的推論経路を探索することができる。
自己補正機能は、安全クリティカルなアプリケーションにLLMをデプロイするために不可欠である。
LLMは、外部ソースから同一のエラーを修正しながら、自身の出力でエラーを修正することはできない。
論文 参考訳（メタデータ） (2025-07-03T16:41:30Z) - SEAL: Steerable Reasoning Calibration of Large Language Models for Free [58.931194824519935]
大規模言語モデル(LLM)は、拡張チェーン・オブ・ソート(CoT)推論機構を通じて複雑な推論タスクに魅力的な機能を示した。
最近の研究では、CoT推論トレースにかなりの冗長性が示されており、これはモデル性能に悪影響を及ぼす。
我々は,CoTプロセスをシームレスに校正し,高い効率性を示しながら精度を向上する,トレーニング不要なアプローチであるSEALを紹介した。
論文 参考訳（メタデータ） (2025-04-07T02:42:07Z) - Granular Change Accuracy: A More Accurate Performance Metric for Dialogue State Tracking [34.392893920243644]
グラニュラーチェンジ精度(GCA)について紹介する。
GCAは、対話履歴全体にわたる対話状態の変化の予測を評価することに重点を置いている。
その結果,GAAは分布の均一性や誤差の位置から生じるバイアスを効果的に低減できることがわかった。
論文 参考訳（メタデータ） (2024-03-17T07:07:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。