論文の概要: Whom Do AI Agents Work For? Role Assignment Induces Sponsorship Bias in LLM Recommenders

• arxiv url: http://arxiv.org/abs/2609.17989v1
• Date: Wed, 16 Sep 2026 01:21:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-20 08:55:53.590164
• Title: Whom Do AI Agents Work For? Role Assignment Induces Sponsorship Bias in LLM Recommenders
• Title（参考訳）: AIエージェントは誰のために働くのか?LLMレコメンデーションにおける役割割り当てはスポンサーシップバイアスを誘導する
• Abstract要約: 大型言語モデル(LLM)は、現在、広告を販売するプラットフォーム上の会話型ショッピングアシスタントとして機能している。 本論では,スポンサード・リスティングに対するエージェントの評価は,どのエージェントがどのエージェントをデプロイしたかによって異なるべきではないと論じる。 プラットフォームデリゲーションは、エージェントがスポンサーのリスティングに適用されるペナルティを著しく減らしていることを示す。
• 参考スコア（独自算出の注目度）: 1.578081936353233
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Large language models (LLMs) now serve as conversational shopping assistants on platforms that also sell advertising. These AI agents face a conflict of duty. They advise consumers who rely on their judgment, yet are deployed by platforms that benefit when sponsored listings are chosen. Sponsorship disclosures, designed to allow consumers to penalize paid placements, now reach the AI agent rather than the consumer, and the agent's evaluation of them is hidden from the consumer. Drawing on the fiduciary concept of conflict of duty, we argue that an agent's evaluation of a sponsored listing should not depend on which party deployed it. In controlled choice experiments, we manipulate assigned roles in the system prompt to name either a traveler or a booking platform as the agent's principal. Platform delegation significantly attenuates the penalty that agents apply to sponsored listings and weakens the skepticism that disclosure triggers in their reasoning traces. We replicate out findings across LLMs and reasoning depths. A second study decomposes the disclosure label and shows that the divergence between the two delegates widens significantly when the paid placement is attributed to the platform. Stricter terminology ("Sponsored" instead of "Promoted") lowers choice of paid listings but does not close this gap when the platform is named. The findings show that disclosure mandates designed for human consumers cannot by themselves protect consumers in AI-mediated commerce.
• Abstract（参考訳）: 大型言語モデル(LLM)は、現在、広告を販売するプラットフォーム上の会話型ショッピングアシスタントとして機能している。 これらのAIエージェントは義務の衝突に直面します。 彼らは、自分の判断に頼っている消費者に助言するが、スポンサー付きリスティングが選ばれたときに恩恵を受けるプラットフォームによって展開される。 スポンサーシップの開示は、消費者が有償の配置をペナルティ化できるように設計され、現在、消費者よりもAIエージェントに届き、エージェントの評価は消費者から隠されている。 義務の対立という架空の概念に基づき、スポンサードリストに対するエージェントの評価は、それをどの当事者が配置したかによらずによいと論じる。 制御された選択実験では、エージェントのプリンシパルとして旅行者または予約プラットフォームを名付けるように、システム内の割り当てられた役割を操作します。 プラットフォームデリゲーションは、エージェントがスポンサー付きリスティングに適用される罰を著しく減らし、開示が彼らの推論トレースに引き起こす懐疑性を弱める。 LLMと推論深度にまたがって解析結果を再現した。 第2の研究では、開示ラベルを分解し、有料の配置がプラットフォームに起因する場合、2つのデリゲート間のばらつきが著しく広がることを示す。 Stricter terminology("Promoted"ではなく"Sponsored")は、有料リスティングの選択を低くするが、プラットフォームが命名された時にこのギャップを埋めることはない。 この結果は、人間の消費者のために設計された開示委任状は、AIによる商業において消費者を自ら保護することはできないことを示している。

関連論文リスト

• Knowledge-Verified Emergent Deception in LLM Agents Under Conflicting Incentives [31.91558200083629]
  KnownLieBenchは、エージェントがユーザの権利を知っていることを最初に確認する知識検証ベンチマークである。 そして、権利が導入されたことを否定するインセンティブが一度虚偽の主張をするかどうかを評価する。
  論文  参考訳（メタデータ） (2026-08-26T19:56:13Z)
• Thinking Out Loud: Real-Time Deception Monitoring in Asymmetric LLM Negotiations [0.0]
  軽量リアルタイムチェーンオブ思想モニタは、非対称な交渉中に戦略的偽装を検出することができる。 実験により、このモニターは買い手の歩行率を増加させるが、永続的な情報ギャップが明らかになる。
  論文  参考訳（メタデータ） (2026-06-13T12:35:46Z)
• CyberJurors: A Multi-Agent Simulation Task for E-Commerce Disputes Verdict [59.06704011432714]
  電子商取引プラットフォームは、大量の取引紛争を判断するためにクラウドソースの陪審員を募集し始めた。 本稿では,先駆的タスクであるEDV(E-Commerce Dispute Verdicts)と,6,000件の現実世界のケースからなるマルチモーダルベンチマークであるVerdictBenchを紹介する。 本稿では,論争ロジックを明確にし,判定プロセスを制御するマルチエージェントフレームワークであるCyberJurorsを提案する。
  論文  参考訳（メタデータ） (2026-05-27T12:07:44Z)
• Ads in AI Chatbots? An Analysis of How Large Language Models Navigate Conflicts of Interest [41.55197752825393]
  大規模言語モデル(LLM)は、強化学習などの手法により、ユーザの好みに合わせて訓練される。 しかし、モデルがユーザーを満足させるだけでなく、広告を通じてモデルを作った会社に収益をもたらすように展開され始めている。 これにより、LCMが利害の対立に直面する可能性が生じ、ユーザに対する最も有益な反応が会社のインセンティブと一致しない可能性がある。
  論文  参考訳（メタデータ） (2026-04-09T17:57:50Z)
• Commercial Persuasion in AI-Mediated Conversations [44.86056095417948]
  大きな言語モデル(LLM)は、ユーザとWebの主なインターフェースとなる。 参加者が電子ブックカタログから受信する本を選定する実験を2回行った。 参加者には知られていなかったが、全製品の5分の1がランダムにスポンサーに指定され、異なる方法で宣伝された。 LLMによる説得は、従来の検索位置と比較して、ユーザーがスポンサー商品を選択する確率の3倍に近いことが判明した。
  論文  参考訳（メタデータ） (2026-04-05T20:51:55Z)
• Fairness Dynamics in Digital Economy Platforms with Biased Ratings [50.29721091981893]
  我々は、デジタルプラットフォームが格付けに基づく差別を永続的に、あるいは対処する方法について研究する。 この結果から,ユーザエクスペリエンスと公平性の根本的なトレードオフが示される。 また,検索結果の人口動態を調整して介入することが,不公平を抑えるための極めて効果的な方法であることを示す。
  論文  参考訳（メタデータ） (2026-02-18T18:41:16Z)
• Vertical tacit collusion in AI-mediated markets [0.0]
  共同利用は、戦略が独立していればどうなるかという2倍以上の消費者に害を与えることを示す。 水平のアルゴリズムによる衝突とは異なり、垂直の暗黙の衝突は調整を必要とせず、反トラスト検出を避ける。 我々の発見は、AIショッピングエージェントが主流に普及するにつれて、緊急の規制のギャップが認識される。
  論文  参考訳（メタデータ） (2026-01-06T14:43:14Z)
• Sponsored Questions and How to Auction Them [48.75306452169514]
  重要な課題は、ユーザの検索クエリが、真の意図を曖昧にしておくことが多いことだ。 従来の検索から会話型AIへの移行は、新しいアプローチを提供する。 我々は、スポンサード提案とフォローする広告を協調的に最適化するためにVCGメカニズムを採用することができることを示す。
  論文  参考訳（メタデータ） (2025-12-03T17:06:27Z)
• Why am I Still Seeing This: Measuring the Effectiveness Of Ad Controls and Explanations in AI-Mediated Ad Targeting Systems [55.02903075972816]
  我々は,メタの「より少ない」広告制御の有効性と,AIによるターゲティングへの移行に伴う広告ターゲティング説明の有効性を評価する。 調査対象のトピックに対する"See less"広告コントロールの利用は,Metaがこれらのトピックについて示す広告数を著しく減少させるものではないことがわかった。 ローカル広告の広告ターゲティング説明の大部分は、位置特化ターゲティング基準に言及していない。
  論文  参考訳（メタデータ） (2024-08-21T18:03:11Z)
• Formalizing the Problem of Side Effect Regularization [81.97441214404247]
  本稿では,補助ゲームフレームワークを用いたサイドエフェクト正規化のための公式な基準を提案する。 これらのゲームでは、エージェントは部分的に観測可能なマルコフ決定プロセスを解決する。 このPOMDPは、エージェントが将来的なタスクをこなす能力と、プロキシ報酬を交換することで解決されることを示す。
  論文  参考訳（メタデータ） (2022-06-23T16:36:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。