論文の概要: Ads in AI Chatbots? An Analysis of How Large Language Models Navigate Conflicts of Interest

• arxiv url: http://arxiv.org/abs/2604.08525v1
• Date: Thu, 09 Apr 2026 17:57:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-10 18:34:06.065568
• Title: Ads in AI Chatbots? An Analysis of How Large Language Models Navigate Conflicts of Interest
• Title（参考訳）: AIチャットボットにおける広告 : 大規模言語モデルが関心の衝突をいかにナビゲートするかの分析
• Authors: Addison J. Wu, Ryan Liu, Shuyue Stella Li, Yulia Tsvetkov, Thomas L. Griffiths,
• Abstract要約: 大規模言語モデル(LLM)は、強化学習などの手法により、ユーザの好みに合わせて訓練される。 しかし、モデルがユーザーを満足させるだけでなく、広告を通じてモデルを作った会社に収益をもたらすように展開され始めている。 これにより、LCMが利害の対立に直面する可能性が生じ、ユーザに対する最も有益な反応が会社のインセンティブと一致しない可能性がある。
• 参考スコア（独自算出の注目度）: 41.55197752825393
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Today's large language models (LLMs) are trained to align with user preferences through methods such as reinforcement learning. Yet models are beginning to be deployed not merely to satisfy users, but also to generate revenue for the companies that created them through advertisements. This creates the potential for LLMs to face conflicts of interest, where the most beneficial response to a user may not be aligned with the company's incentives. For instance, a sponsored product may be more expensive but otherwise equal to another; in this case, what does (and should) the LLM recommend to the user? In this paper, we provide a framework for categorizing the ways in which conflicting incentives might lead LLMs to change the way they interact with users, inspired by literature from linguistics and advertising regulation. We then present a suite of evaluations to examine how current models handle these tradeoffs. We find that a majority of LLMs forsake user welfare for company incentives in a multitude of conflict of interest situations, including recommending a sponsored product almost twice as expensive (Grok 4.1 Fast, 83%), surfacing sponsored options to disrupt the purchasing process (GPT 5.1, 94%), and concealing prices in unfavorable comparisons (Qwen 3 Next, 24%). Behaviors also vary strongly with levels of reasoning and users' inferred socio-economic status. Our results highlight some of the hidden risks to users that can emerge when companies begin to subtly incentivize advertisements in chatbots.
• Abstract（参考訳）: 今日の大規模言語モデル(LLM)は、強化学習などの手法によって、ユーザの好みに合わせて訓練されている。 しかし、モデルがユーザーを満足させるだけでなく、広告を通じてモデルを作った会社に収益をもたらすように展開され始めている。 これにより、LCMが利害の対立に直面する可能性が生じ、ユーザに対する最も有益な反応が会社のインセンティブと一致しない可能性がある。 例えば、スポンサー付製品の方が高価だが、それ以外は他の製品と同等であるかもしれない。 本稿では,言語学や広告規制の文献から着想を得て,矛盾するインセンティブが LLM にユーザとのインタラクションの仕方を変える要因を分類する枠組みを提供する。 次に、現在のモデルがこれらのトレードオフをどのように扱うかを調べるために、一連の評価結果を提示します。 LLMは、多くの利害対立の中で、企業のインセンティブに対するユーザーの福祉を禁止し、スポンサー付商品をほぼ2倍の価格(Grok 4.1 Fast, 83%)、購入プロセスを妨害するスポンサー付オプション(GPT 5.1, 94%)、好ましくない比較価格の隠蔽(Qwen 3 Next, 24%)を推奨している。 行動は、推論のレベルと利用者の社会経済的地位に強く依存する。 弊社の結果は、企業がチャットボットで広告を微妙にインセンティブし始めると、ユーザへの隠れたリスクが浮かび上がる。

関連論文リスト

• Commercial Persuasion in AI-Mediated Conversations [44.86056095417948]
  大きな言語モデル(LLM)は、ユーザとWebの主なインターフェースとなる。 参加者が電子ブックカタログから受信する本を選定する実験を2回行った。 参加者には知られていなかったが、全製品の5分の1がランダムにスポンサーに指定され、異なる方法で宣伝された。 LLMによる説得は、従来の検索位置と比較して、ユーザーがスポンサー商品を選択する確率の3倍に近いことが判明した。
  論文  参考訳（メタデータ） (2026-04-05T20:51:55Z)
• Would a Large Language Model Pay Extra for a View? Inferring Willingness to Pay from Subjective Choices [1.8759305308855918]
  大規模言語モデル(LLM)は、旅行支援や購入支援といったアプリケーションにますます導入されている。 我々は、選択ジレンマを持つモデルを提示し、それらの応答を解析することにより、旅行支援文脈におけるLCM意思決定について検討する。 提案手法では,より大きなLLMに対して有意なWTP値が導出可能である一方で,属性レベルでの系統的偏差も示す。
  論文  参考訳（メタデータ） (2026-02-10T14:05:42Z)
• Sponsored Questions and How to Auction Them [48.75306452169514]
  重要な課題は、ユーザの検索クエリが、真の意図を曖昧にしておくことが多いことだ。 従来の検索から会話型AIへの移行は、新しいアプローチを提供する。 我々は、スポンサード提案とフォローする広告を協調的に最適化するためにVCGメカニズムを採用することができることを示す。
  論文  参考訳（メタデータ） (2025-12-03T17:06:27Z)
• Interactive Reasoning: Visualizing and Controlling Chain-of-Thought Reasoning in Large Language Models [54.85405423240165]
  トピックの階層構造としてチェーンオブ思考出力を可視化するインタラクション設計であるInteractive Reasoningを導入する。 私たちは、不確実なトレードオフに直面したAIによる意思決定のプロトタイプであるHippoで、インタラクティブな推論を実装しています。
  論文  参考訳（メタデータ） (2025-06-30T10:00:43Z)
• Are Generative AI Agents Effective Personalized Financial Advisors? [12.075577560952498]
  本稿では,金融分野における大規模言語モデルに基づくエージェントの有効性について検討する。 本研究は,(1)ユーザ自身のニーズが不確実である場合のユーザ嗜好の付与,(2)多様な投資嗜好に対するパーソナライズされたガイダンスの提供,(3)アドバイザ・パーソナリティの活用による関係構築と信頼の育成,という3つの課題に焦点をあてる。
  論文  参考訳（メタデータ） (2025-04-08T09:41:03Z)
• Ads that Talk Back: Implications and Perceptions of Injecting Personalized Advertising into LLM Chatbots [15.907632070023702]
  企業は、大規模言語モデル(LLM)の収益化のための広告ベースの収益源を模索している。 本稿では,LLM広告を個人ユーザに対してパーソナライズすることの意味について検討する。 私たちは広告データセットとオープンソースのLLMであるPhi-4-Adsを作成しました。
  論文  参考訳（メタデータ） (2024-09-23T18:02:09Z)
• Modulating Language Model Experiences through Frictions [56.17593192325438]
  言語モデルの過度な消費は、短期において未確認エラーを伝播し、長期的な批判的思考のために人間の能力を損なうリスクを出力する。 行動科学の介入にインスパイアされた言語モデル体験のための選択的摩擦を提案し,誤用を抑える。
  論文  参考訳（メタデータ） (2024-06-24T16:31:11Z)
• Political Compass or Spinning Arrow? Towards More Meaningful Evaluations for Values and Opinions in Large Language Models [61.45529177682614]
  我々は,大規模言語モデルにおける価値と意見の制約評価パラダイムに挑戦する。 強制されない場合、モデルが実質的に異なる答えを与えることを示す。 我々はこれらの知見をLLMの価値と意見を評価するための推奨とオープンな課題に抽出する。
  論文  参考訳（メタデータ） (2024-02-26T18:00:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。