論文の概要: Shared and structured inputs undermine collective random choice by reasoning AI agents

• arxiv url: http://arxiv.org/abs/2610.09667v1
• Date: Wed, 07 Oct 2026 08:32:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.800383
• Title: Shared and structured inputs undermine collective random choice by reasoning AI agents
• Title（参考訳）: 共有入力と構造化入力はAIエージェントの推論による集団的ランダム選択を損なう
• Abstract要約: 6つの推論モデルにわたる振る舞いテストでは、識別子ベースの選択で使用されるしきい値と可視性ルールが明らかになった。 GPT-6 Sol と Gemini 3.8 Flash のしきい値追跡のためには、シングルエージェント計測は共有識別子による参加を予想していた。 ランダム化のための明示的な命令は、独立に減少するが、共有-入力相関は排除しなかった。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Random selection is widely used in resource allocation and auditing, making reliable implementation essential for AI-agent systems. Behavioural tests across six reasoning models uncovered threshold and divisibility rules used in identifier-based choices. For threshold-following GPT-6 Sol and Gemini 3.8 Flash, single-agent measurements prospectively predicted correlated participation under shared identifiers and biased participation under distinct identifiers with common timestamp bits. Changing dates, formats and identifier labels revealed when these predictions held. Explicit instructions to randomize independently reduced but did not eliminate shared-input correlation. To test implications for oversight, we asked four models to select customer requests randomly for human review. GPT-6 Sol approached the target rate while selecting predictably from identifiers; the others rarely selected requests. All four closely followed supplied random draws. These findings expose collective and audit vulnerabilities that selection rates alone miss, making input-dependent bias, correlation and predictability central targets for agent evaluation.
• Abstract（参考訳）: ランダムの選択はリソースの割り当てや監査に広く使われており、AIエージェントシステムに不可欠な実装となっている。 6つの推論モデルにわたる振る舞いテストでは、識別子ベースの選択で使用されるしきい値と可視性ルールが明らかになった。 GPT-6 Sol と Gemini 3.8 Flash のしきい値追跡のために、シングルエージェント測定は、共有識別子の下で相関した参加を予測し、共通のタイムスタンプビットを持つ異なる識別子の下でバイアスのある参加を予測した。 日付、フォーマット、識別子ラベルの変更は、これらの予測が達成された時点で明らかにされた。 ランダム化のための明示的な命令は、独立に減少するが、共有-入力相関は排除しなかった。 監視の意義を検証するため、私たちは4つのモデルに、ヒューマンレビューのためにランダムに顧客要求を選択するよう依頼した。 GPT-6 Solは識別子から予測可能な選択をしながらターゲットレートに近づいた。 4台とも無作為に無作為な引き分けを施した。 これらの結果から,選択率のみを損なう集合的および監査的脆弱性が明らかとなり,エージェント評価の入力依存バイアス,相関性,予測可能性の中心的目標が得られた。

関連論文リスト

• Beyond Single-Turn Confidence: Trajectory-Adapted Uncertainty Quantification for LLM Agents [0.0]
  単ターンUQ手法の3つの共通ファミリーが対話的軌道設定に遷移するかどうかを検討する。 転送はしばしば有用であるが、不均一であることがわかった。 トークン確率スコアは、各ターンで使用されるアグリゲータの選択に非常に敏感である。 ブラックボックスの自己整合性はしばしば最強のUQファミリーであり、軌跡等価性とアクションセットの整合性は変種の中では最高である。
  論文  参考訳（メタデータ） (2026-08-12T01:39:28Z)
• Response Time Enhances Alignment with Heterogeneous Preferences [49.69696266152175]
  簡易な二次信号で選好データセットを増大させることで、住民の平均選好の識別性を回復できることを示す。 私たちの結果は、将来的なデータ収集パイプラインに約束と新たな機会をもたらします。
  論文  参考訳（メタデータ） (2026-05-07T22:05:23Z)
• Statistical Learning from Attribution Sets [38.149441146737615]
  プライバシ制約下での広告ドメインにおける変換予測モデルのトレーニングの問題に対処する。 プライバシ保護ブラウザAPIとサードパーティクッキーの非推奨化を動機として,学習者が一連のクリックと一連の変換を観察する環境について検討する。 我々はこれを、候補者に対する事前分布を備えた不愉快な敵が生成した帰属集合からの学習として定式化する。
  論文  参考訳（メタデータ） (2026-02-06T00:27:28Z)
• Selective Mixup for Debiasing Question Selection in Computerized Adaptive Testing [50.805231979748434]
  コンピュータ適応テスト (Computerized Adaptive Testing, CAT) は、オンライン教育プラットフォームにおける学習者の習熟度を評価する技術である。 選択バイアスは、質問選択が推定された熟練度に強く影響されるため生じる。 本稿では,Cross-Attribute Examinee RetrievalとSelective Mixup-based Regularizationの2つの主要なモジュールからなるデバイアス化フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-11-19T08:55:01Z)
• Reference-Free Rating of LLM Responses via Latent Information [53.463883683503106]
  本研究では,判断モデルに対して,自由テキスト応答にQuattスケールのスコアを割り当てるよう依頼する一般的な実践について検討する。 次に、内部モデル信号からスカラー評価を導出する潜在裁判官を提案し、評価する。 ペアとシングルレーティングのベンチマークの幅広いスイートの中で、潜在メソッドは標準のプロンプトにマッチするか、超えている。
  論文  参考訳（メタデータ） (2025-09-29T12:15:52Z)
• BoBa: Boosting Backdoor Detection through Data Distribution Inference in Federated Learning [26.714674251814586]
  フェデレーテッド・ラーニングは、その分散した性質のため、毒殺の被害を受けやすい。 本稿では,この問題を解決するために,分布認識型異常検出機構であるBoBaを提案する。
  論文  参考訳（メタデータ） (2024-07-12T19:38:42Z)
• On the Universal Adversarial Perturbations for Efficient Data-free Adversarial Detection [55.73320979733527]
  本稿では,UAPに対して正常サンプルと逆サンプルの異なる応答を誘導する,データに依存しない逆検出フレームワークを提案する。 実験結果から,本手法は様々なテキスト分類タスクにおいて,競合検出性能を実現することが示された。
  論文  参考訳（メタデータ） (2023-06-27T02:54:07Z)
• Robust Fairness under Covariate Shift [11.151913007808927]
  保護グループメンバーシップに関して公正な予測を行うことは、分類アルゴリズムの重要な要件となっている。 本稿では,ターゲット性能の面で最悪のケースに対して頑健な予測値を求める手法を提案する。
  論文  参考訳（メタデータ） (2020-10-11T04:42:01Z)
• Decorrelated Clustering with Data Selection Bias [55.91842043124102]
  本稿では,データ選択バイアスを伴うクラスタリングのためのデコリレーション正規化K-Meansアルゴリズム(DCKM)を提案する。 DCKMアルゴリズムは,選択バイアスによって生じる予期せぬ特徴相関を除去する必要があることを示す。
  論文  参考訳（メタデータ） (2020-06-29T08:55:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。