論文の概要: Binding Paraphrased Instructions to Encountered Objects in sLLM Agents under Partial Observability
- arxiv url: http://arxiv.org/abs/2611.07599v1
- Date: Thu, 05 Nov 2026 07:46:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 21:50:50.588273
- Title: Binding Paraphrased Instructions to Encountered Objects in sLLM Agents under Partial Observability
- Title(参考訳): 部分可観測下におけるsLLMエージェント中の被疑物へのパラフレーズ命令の結合
- Abstract要約: 我々はALFWorld-Paraを導入し、オブジェクトシノニムによって駆動されるパラフレーズに対するロバスト性を評価する。
BINDIntentは,観察されたラベルに表現を確率的に結合する学習自由フレームワークである。
追加のトレーニングやLLMコールなしでは、BINDIntentはRL-finetuned sLLMのシンボローム-パラフレーズ成功を17.5-49.1ポイント(pp)改善し、CPUオーバーヘッドは1ステップあたりわずか0.4msである。
- 参考スコア(独自算出の注目度): 9.149760918054396
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Reliable deployment of LLM agents requires grounding diverse user expressions in their environments. Although RL-finetuned smaller large language model (sLLM) agents rival larger prompted LLMs on embodied tasks, their robustness to instruction paraphrases remains unclear. We introduce ALFWorld-Para to evaluate this robustness under controlled paraphrases, revealing 21-52% declines in success rates (SRs), predominantly driven by object synonyms. Despite retaining knowledge of synonym referents, agents often fail to take the corresponding objects even after observing them, exposing a gap between referential knowledge and object binding. Partial observability further complicates binding, as referents may remain unseen or have already been encountered under different labels. To address this challenge, we propose BINDIntent, a training-free framework that probabilistically binds referring expressions to observed labels using semantic proximity and estimated persistence against unseen candidates. Without additional training or LLM calls, BINDIntent improves synonym-paraphrase success of RL-finetuned sLLMs by 17.5-49.1 percentage points (pp) with only 0.4 ms of CPU overhead per step. It also raises GiGPO-7B's overall SR from 61.8% to 77.4%, surpassing a prompted 24B LLM. Code and benchmark are available at https://github.com/cau-hai-lab/ALFWorld-Para.
- Abstract(参考訳): LLMエージェントの信頼性の高いデプロイには、さまざまなユーザ表現を環境に基盤を置く必要がある。
RL-finetuned small large language model (sLLM) エージェントは、エンボディタスクにおいてより大きなLLMに匹敵するが、命令パラフレーズに対する堅牢性は未だ不明である。
我々はALFWorld-Paraを導入し、制御されたパラフレーズの下でこの堅牢性を評価するとともに、主にオブジェクトシノニムによって駆動される成功率(SR)の21~52%の低下を明らかにした。
同義語参照者の知識を保っているにもかかわらず、エージェントはそれらを観察した後でも対応するオブジェクトを取らず、参照知識とオブジェクト結合のギャップを露呈する。
部分的な可観測性はさらに結合を複雑にし、参照者は目に見えないままにするか、既に異なるラベルの下で遭遇している可能性がある。
この課題に対処するため,BINDIntentを提案する。BINDIntentは,意味的近さと未知の候補に対する推定持続性を用いて,観察されたラベルへの参照表現を確率的に結合する学習自由フレームワークである。
追加のトレーニングやLLMコールなしでは、BINDIntentはRLで調整されたsLLMを17.5-49.1ポイント(pp)改善し、CPUオーバヘッドはわずか0.4msである。
また、GGPO-7Bの全SRは61.8%から77.4%に上昇し、24B LLMを突破した。
コードとベンチマークはhttps://github.com/cau-hai-lab/ALFWorld-Para.orgで公開されている。
関連論文リスト
- A-SR: Self-Evolving Agentic LLMs for Symbolic Regression via Hierarchical Coordination [51.06539604709775]
本稿では、制御ユニットを表現編集からロール条件のエビデンスビューへシフトさせる自己進化型エージェントフレームワークであるA-SRを提案する。
A-SRは、コーディネートプロトコル、オンライン評価器・リワードロールポリシー、および状態制御プロセスメモリ間のルーティングによる公式発見をコーディネートする。
論文 参考訳(メタデータ) (2026-08-05T14:01:10Z) - ACCORD: Action-Conditioned Contextual Grounding for Language Agents [69.73525608707764]
ACCORD(Action-Conditioned Contextual Grounding)は、適応的なグラウンドのためのエージェントフレームワークである。
現状のエージェントは、しばしばそうすることができないことを示す。それらは、観察された特定の情報よりもむしろ仮定から行動し、収集した可能性のある情報を見落とし、既に返された証拠を組み込むことに失敗する。
論文 参考訳(メタデータ) (2026-06-15T09:05:55Z) - SHALA-LLM: Smartly Handling Ambiguous Labels in Aligning LLMs [22.53104474041071]
新しいアルゴリズム「SmARTLY HANDING AMBIGUOUS LABELS in ALIGNING LLMS (SHALA-LLM) 」によってモデル行動を改善する情報としてあいまいさをどう扱うかを示す。
ChaosNLI、GoEmotions、MSP-Podcastなど、曖昧性に敏感なNLIとERベンチマークの実験は、SHALA-LLMがアノテータラベルの分布との一致を改善することを実証している。
同時に、SHALA-LLMはF1を最大16.7%改善し、モデリングアノテータの不一致により分類性能が向上することを示した。
論文 参考訳(メタデータ) (2026-06-03T19:25:08Z) - Agentic Repository Mining: A Multi-Task Evaluation [0.0]
ソフトウェアリポジトリをマイニングするには、コミット、レビュー、コード行、リポジトリ全体といったアーティファクトをカテゴリに分類する必要があることが多い。
標準的なbashコマンドでレポジトリを動的に探索するLLMエージェントが,プレエンジニアリングコンテキストを受信する単純なLLMの分類品質に適合するかどうかを検討する。
論文 参考訳(メタデータ) (2026-05-06T12:43:46Z) - Assessing LLM Reliability on Temporally Recent Open-Domain Questions [15.456770184839726]
大規模言語モデル(LLM)は、オープンドメインの質問応答のためにますます多くデプロイされている。
我々は4つのオープンソース LLM が最近のReddit の質問 15,000 に対してどのように反応するかを調査した。
すべてのモデルは、8%のBLEU-1オーバーラップにもかかわらず、参照と99%以上のコサイン類似性を達成している。
論文 参考訳(メタデータ) (2026-01-17T21:33:27Z) - The Mental World of Large Language Models in Recommendation: A Benchmark on Association, Personalization, and Knowledgeability [3.3707422585608953]
大規模言語モデル(LLM)は、ナレッジエンハンサーまたはゼロショットローダとしてそれらを使用することでレコメンデーションシステム(RecSys)の可能性を示している。
重要な課題は、LLMとRecSysの間に大きな意味的ギャップがあり、前者は言語の世界知識を、後者はパーソナライズされた行動の世界を捉えている。
広範に使用されている推奨データセットから,38K以上の高品質なサンプルと23Mトークンを慎重にコンパイルし,生成するLRWorldというベンチマークを提案する。
論文 参考訳(メタデータ) (2025-12-19T09:44:19Z) - Evaluating & Reducing Deceptive Dialogue From Language Models with Multi-turn RL [64.3268313484078]
大規模言語モデル(LLM)は、顧客サポート、教育、医療など、世界中の何百万もの人々と対話する。
故意であれ不注意であれ、偽りのアウトプットを生産する能力は、重大な安全上の懸念を生じさせる。
本研究では, LLM が会話中の偽装にどの程度関与しているかを考察し, 偽装を定量化する信念の誤調整尺度を提案する。
論文 参考訳(メタデータ) (2025-10-16T05:29:36Z) - Exploring Automatic Cryptographic API Misuse Detection in the Era of LLMs [60.32717556756674]
本稿では,暗号誤用の検出において,大規模言語モデルを評価するための体系的評価フレームワークを提案する。
11,940個のLCM生成レポートを詳細に分析したところ、LSMに固有の不安定性は、報告の半数以上が偽陽性になる可能性があることがわかった。
最適化されたアプローチは、従来の手法を超え、確立されたベンチマークでこれまで知られていなかった誤用を明らかにすることで、90%近い顕著な検出率を達成する。
論文 参考訳(メタデータ) (2024-07-23T15:31:26Z) - Assessing the Reliability of Large Language Model Knowledge [78.38870272050106]
大規模言語モデル(LLM)は、知識探索タスクにおける高い性能のため、知識ベースとして扱われてきた。
LLMが実際に正しい答えを連続的に生成する能力をどのように評価するか。
LLMの信頼性を直接測定するための新しい指標であるMOdel kNowledge relIabiliTy score (MONITOR)を提案する。
論文 参考訳(メタデータ) (2023-10-15T12:40:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。