論文の概要: JevOut: Natural Context Can Flip Decision Models

• arxiv url: http://arxiv.org/abs/2609.30243v1
• Date: Thu, 24 Sep 2026 17:57:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 21:10:10.197951
• Title: JevOut: Natural Context Can Flip Decision Models
• Title（参考訳）: JevOut: 自然なコンテキストは決定モデルをフリップできる
• Abstract要約: コンテキストに自然に適合する短い追加は、そうでなければ正しい決定をリダイレクトできることに気付きました。 これらの結果は、現在の決定モデルにおける明らかな脆弱性を明らかにします。
• 参考スコア（独自算出の注目度）: 3.2875856796061513
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Dedicated decision models such as Jev map unstructured language to probability distributions over finite choices, allowing their outputs to directly route requests, select tools, and trigger actions. Yet real-world inputs rarely arrive in isolation: they come with background details and surrounding context. We find that short additions that fit naturally into this context can nevertheless redirect an otherwise correct decision, even when the correct answer remains unchanged. To study this behavior, we fix a wrong target option for each initially correct item and use the model's option probabilities to refine fluent context additions while preserving the source, question, choices, and gold answer. Within 64 accepted target evaluations, the optimizer identifies contexts that redirect Jev on 312 of 508 initially correct decisions (61.4%); in 229 cases, Jev assigns at least 0.7 probability to the fixed wrong option. Across seven datasets, three additional decision systems show targeted flip rates of 64.9%-73.2% on decisions they initially answer correctly. Taken together, these results expose a pronounced fragility in current decision models: short, ordinary-looking context can shift a correct choice to a high-confidence wrong one. Because these models turn language directly into downstream choices, this sensitivity raises concerns about treating their probability outputs as reliable decision interfaces.
• Abstract（参考訳）: Jevのような決定モデルでは、構造化されていない言語を有限の選択上の確率分布にマッピングすることで、出力がリクエストを直接ルーティングし、ツールを選択し、アクションをトリガーすることができる。 しかし、現実世界のインプットは、背景の詳細と周囲のコンテキストによって分離されることは滅多にない。 この文脈に自然に適合する短い追加は、たとえ正しい答えが変わらないとしても、そうでなければ正しい決定をリダイレクトできる。 この振る舞いを研究するために、最初に正しい項目ごとに間違ったターゲットオプションを修正し、モデルオプションの確率を使って、ソース、質問、選択、金の回答を保存しながら、流動的な文脈の追加を洗練します。 64の許容された目標評価の中で、オプティマイザは508のうち312でJevをリダイレクトするコンテキストを特定し(61.4%)、229のケースでは、Jevは固定された間違ったオプションに少なくとも0.7の確率を割り当てる。 7つのデータセットにまたがって、3つの決定システムは、最初に正解した決定に対して64.9%-73.2%の目標フリップ率を示している。 これらの結果は、現在の意思決定モデルにおける明らかな脆弱さを明らかにします。 これらのモデルは、言語を直接下流選択に変換するため、この感度は、確率出力を信頼できる決定インターフェースとして扱うことに対する懸念を提起する。

関連論文リスト

• From Text Decisions to Pixels: An Study of Jev-Style Visual Choice Model [3.9089508293561845]
  PixelJevは、イメージ、タスク命令、ランタイム候補セットを構造化された選択と候補条件付き確率にマッピングする、ネイティブイメージ決定インターフェイスである。 その初期実現は、既存の言語モデルの読み出しを通じて、認識と多重選択の視覚的答えを統一する。
  論文  参考訳（メタデータ） (2026-09-24T09:19:05Z)
• Efficient Visual Pointing for Embodied AI:Agent-Driven Data Synthesis, Cross-Block Attention, and Iterative Correction [55.11480729304395]
  PointArena 2026は77.2%の精度でベンチマークで2位である。 ap proachは3つの障害モードをターゲットにしている。第一に、エージェント駆動のシンセシスは大きなセマンティクスとアンカー相対的な候補プールを構築する。 次に、determinis tic steerable-dataパイプラインは、認証された10,000サンプルのメインセットと、マスク、テンプレート、パス検証を使用するリザーブサンプルを生成する。
  論文  参考訳（メタデータ） (2026-06-29T06:39:03Z)
• YUKTI: From Natural-Language Situations to Robust, Verifiable Decisions An Uncertainty-Typed Proposition IR, Assumption-Robust Pareto Frontiers, and a Regret Certificate [0.0]
  我々は,YUKTIが各ステージを正確に,非線形,あるいは進化的解法にルートすることを示す。 我々は,決定的後悔の正確な要因として境界作成rhoを証明し,監査可能なトレーサビリティを付加し,ベンチマークに忠実なデータ基盤を合成する。 規制上の不特定の下では、堅牢な妥協が平均とテールの後悔を90%以上削減し、単純なポイントプランと比較し、規制された商業上の決定では、合法的な行動空間内で最適化し、ユーロの下落価格を下げる。
  論文  参考訳（メタデータ） (2026-06-22T09:29:13Z)
• Can Revealed Preferences Clarify LLM Alignment and Steering? [23.175180848107093]
  LLMの観測した選択が最適化するインプリート嗜好を推定するための経験的パイプラインを提案する。 提案手法は,モデルが一貫したゴール指向の振る舞いをするかどうかの厳密な評価を可能にすることを示す。
  論文  参考訳（メタデータ） (2026-05-08T23:26:35Z)
• Prompt Sensitivity in Vision-Language Grounding: How Small Changes in Wording Affect Object Detection [6.055168011374501]
  視覚言語モデルは、自然言語クエリを通してオープン語彙オブジェクトをグラウンド化できる。 その結果,「人」「人」「歩行者」といった重なり合うプロンプトが,頻繁に異なる事例を選択していることがわかった。 PCA分析は、この変数はランダムではなく、構造化され、方向性を示す。
  論文  参考訳（メタデータ） (2026-04-18T19:55:05Z)
• Judging with Confidence: Calibrating Autoraters to Preference Distributions [56.17041629492863]
  信頼性の高いオートラッターは、対象の個体群によって定義される嗜好の完全な分布をモデル化することを学ぶ必要がある、と我々は主張する。 異なるデータ条件に合わせた2つの学習方法を提案する。 この結果から, 分布マッチング目的の微調整オートレーダは, 目的の好み分布に整合した有言確率予測を導出することがわかった。
  論文  参考訳（メタデータ） (2025-09-30T20:36:41Z)
• SCOPE: Stochastic and Counterbiased Option Placement for Evaluating Large Language Models [0.27309692684728604]
  大規模言語モデル(LLM)は、選択肢の位置やラベルに固有のバイアスを生かして、複数の選択タスクの膨らませたスコアを達成できる。 本研究では,データセットに依存しない方法で選択バイアスを計測・緩和するSCOPEを提案する。
  論文  参考訳（メタデータ） (2025-07-24T08:28:17Z)
• DecisionFlow: Advancing Large Language Model as Principled Decision Maker [49.088778182807395]
  DecisionFlowは、モデルにアクション、属性、制約の構造化された表現を推論するように誘導する、新しい決定モデリングフレームワークである。 プロンプトから直接回答を予測するのではなく、DecisionFlowは意味論的に根拠のある決定空間を構築し、潜在ユーティリティ関数を推論する。 実験の結果,DecisionFlowの精度は,強いプロンプトベースラインよりも最大30%向上した。
  論文  参考訳（メタデータ） (2025-05-27T16:23:53Z)
• BIRD: A Trustworthy Bayesian Inference Framework for Large Language Models [52.46248487458641]
  予測モデルは、現実世界のタスクで不完全な情報を扱う必要があることが多い。 現在の大規模言語モデル(LLM)は正確な推定には不十分である。 本稿では,新しい確率的推論フレームワークBIRDを提案する。
  論文  参考訳（メタデータ） (2024-04-18T20:17:23Z)
• Improving Selective Visual Question Answering by Learning from Your Peers [74.20167944693424]
  VQA(Visual Question Answering)モデルは、間違っていた場合の回答を控えるのに苦労する可能性がある。 本稿では,複数モーダル選択関数の学習におけるLearning from Your Peers (LYP) アプローチを提案する。 提案手法では,学習データの異なるサブセットに基づいて訓練されたモデルの予測を,選択的VQAモデルの最適化のターゲットとして利用する。
  論文  参考訳（メタデータ） (2023-06-14T21:22:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。