論文の概要: Where It Breaks: Diagnosing Perception, Memory, and Decision Failures of a Vision-Language Agent in Pac-Man
- arxiv url: http://arxiv.org/abs/2611.06704v1
- Date: Wed, 04 Nov 2026 16:04:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 03:25:58.195341
- Title: Where It Breaks: Diagnosing Perception, Memory, and Decision Failures of a Vision-Language Agent in Pac-Man
- Title(参考訳): パーセプション, 記憶, 決定障害の診断 : パックマンにおける視覚言語エージェント
- Abstract要約: Pac-Manを上、下、左、右のアクションだけでプレイするようにエージェントを訓練することは、基本的な疑問を引き起こします。
本稿では,Qwen3.5-9Bをベースとしたエージェントにおいて,個別の認識チェックとプリミティブ・ポリティクス・ラーニング・スタディを通じてこれらの問題を考察する。
- 参考スコア(独自算出の注目度): 8.668645084479575
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Training an agent to play Pac-Man with only up, down, left and right actions raises a basic question: when performance is poor, what should be improved? Difficulty can arise from reading the screen or from choosing actions over a long sequence. We examine these problems in a Qwen3.5-9B-based agent through separate perception checks and primitive-policy reinforcement-learning studies. In the policy study, which uses textual boards to remove image transcription from the decision interface, completion on eight held-out mazes increased from 0% before this optimization to 80.2% at a selected checkpoint, with three extra lives. The perception checks show that accurate static screenshot reading can coexist with errors during interaction. A separate policy comparison also shows that further optimization can accompany worse action choices. Together, these findings motivate concrete checks for post-training: evaluate perception in use, distinguish training success from full-game validation, and examine decisions and later performance rather than relying on one selected score. The study provides empirical lessons for improving future agent training and evaluation.
- Abstract(参考訳): Pac-Manを上、下、左、右のアクションだけでプレイするようにエージェントを訓練することは、基本的な疑問を引き起こします。
難易度は、画面を読むことや、長いシーケンスでアクションを選択することから生じる。
本稿では,Qwen3.5-9Bをベースとしたエージェントにおいて,個別の認識チェックとプリミティブ・ポリティクス・ラーニング・スタディを通じてこれらの問題を考察する。
決定インターフェースから画像の書き起こしをテキストボードで除去する政策研究では、この最適化前の8つの保留迷路の完成率は0%から、選択されたチェックポイントにおいて80.2%に増加し、3つの余命が与えられた。
認識チェックは、正確な静的スクリーンショット読み込みが相互作用中のエラーと共存可能であることを示している。
別のポリシー比較では、さらなる最適化がより悪いアクション選択を伴う可能性があることも示している。
これらの知見は, 学習後評価の具体的チェックを動機付け, 使用感の評価, トレーニング成功とフルゲームバリデーションを区別し, 選択したスコアに頼るのではなく, 意思決定とその後のパフォーマンスを検討する。
この研究は、将来のエージェントトレーニングと評価を改善するための実証的な教訓を提供する。
関連論文リスト
- Harness Compilation: Which Decisions Should a Small Vision-Language Model Keep? [5.4127728217682405]
小さな視覚言語モデルは外部の証拠を読むことができ、それを得るのに苦労する。
我々は,凍結した小型VLMと外部ハーネスとの間の作業の分割を適応させるオフラインプロシージャであるHarness Compilation(HC)を紹介する。
HCは素人の生徒のスコアを9.9-23.9ポイント改善し、設定ごとに3つの独立したビルドで平均化している。
論文 参考訳(メタデータ) (2026-10-08T04:31:36Z) - What Should Data Teach? Moving Bottlenecks Across Circuit, Store, and Use [18.3334052811574]
サーキットビューでは、計算の作成、必要なコンテンツの提供、利用可能なルートの選択という、3つの異なるボトルネックが明らかにされている。
350Mモデルの連続実験は、3つの介入を同じ事実に結びつける。
論文 参考訳(メタデータ) (2026-09-26T22:40:36Z) - Optimizing the Score, Losing Sight of the Task: Reward Hacking Across Weights, Selection, and Prompts [0.0]
プロキシエラーに対する到達可能な動作、最適化予算、永続的な適応形状の露出について示す。
正確な有限出力図示は、スコアリング欠陥の位置が各メソッドが好む振る舞いをどう変えるかを示す。
結果として得られるフレームワークは、最適化の選択と検証要件を結びつける。
論文 参考訳(メタデータ) (2026-09-22T08:12:58Z) - Critical-State RL: Diagnosing Trainable States for Multi-Turn Tool Use [54.30773141960395]
マルチターンインタラクションにおけるトレーニング可能な状態を特定するために、Critical-State RLを導入する。
それぞれの報酬がタスク成功に対するアクションの効果を捉えているかどうか、参照ポリシーよりも改善できるかどうかを評価する。
Berkeley Function Calling Leaderboard (BFCL) v4の実験では、診断選択された州でのトレーニングと代替州でのトレーニングを比較している。
論文 参考訳(メタデータ) (2026-09-21T17:57:20Z) - S3Gym: Can LLMs Turn Self-Testing and Self-Judging into Self-Improvement? [66.17176838165994]
大規模言語モデル(LLM)は、ますます外部環境と相互作用し、かなりの行動経験を蓄積する。
エージェントがその振る舞いを積極的にテストし、得られた経験を判断し、その経験を使って将来の意思決定を改善することができるかどうかは不明だ。
LLM自己改善評価のための対話型ベンチマークである textbfStextsuperscript3Gym を導入する。
論文 参考訳(メタデータ) (2026-08-31T17:05:41Z) - Bidirectional Decoding: Improving Action Chunking via Guided Test-Time Sampling [51.38330727868982]
動作チャンキングが学習者と実証者の間の分岐にどのように影響するかを示す。
動作チャンキングをクローズドループ適応でブリッジするテスト時間推論アルゴリズムである双方向デコーディング(BID)を提案する。
提案手法は、7つのシミュレーションベンチマークと2つの実世界のタスクにまたがって、最先端の2つの生成ポリシーの性能を向上させる。
論文 参考訳(メタデータ) (2024-08-30T15:39:34Z) - Understanding and Mitigating Overfitting in Prompt Tuning for
Vision-Language Models [108.13378788663196]
本稿では, トレーニング過程全体において, 低ランク部分空間にバックプロパゲーションの勾配を投影するSubspace Prompt Tuning(SubPT)を提案する。
我々はCoOpにノベル・ラーナー・フィーチャー(NFL)を装備し、学習したプロンプトをトレーニングセット以外の新しいカテゴリに一般化する能力を高める。
論文 参考訳(メタデータ) (2022-11-04T02:06:22Z) - DisCor: Corrective Feedback in Reinforcement Learning via Distribution
Correction [96.90215318875859]
ブートストラップに基づくQ-ラーニングアルゴリズムは必ずしも修正フィードバックの恩恵を受けないことを示す。
本稿では,この最適分布に対する近似を計算し,トレーニングに使用する遷移の重み付けに使用する新しいアルゴリズムであるDisCorを提案する。
論文 参考訳(メタデータ) (2020-03-16T16:18:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。