論文の概要: Mechanism Design for Generative Engines: From Exploitation toward Win-Win Outcomes
- arxiv url: http://arxiv.org/abs/2608.11390v1
- Date: Tue, 11 Aug 2026 19:57:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-13 19:07:54.363975
- Title: Mechanism Design for Generative Engines: From Exploitation toward Win-Win Outcomes
- Title（参考訳）: 発電エンジンのメカニズム設計:爆発からウィンウィンアウトへ
- Abstract要約: 生成エンジンは、引用を注意、帰属、下流の価値を割り当てる重要なメカニズムにすることで、Webエコシステムを再構築している。
コンテンツプロバイダはモデル引用を最適化するためにインセンティブを得ており、プラットフォームは回答の品質と信頼できる貢献を保たなければならない。
我々はこの緊張が引用戦争にエスカレートすることを示した。
本稿では,検証可能なコンテンツ報酬に基づいて,VCRと呼ばれるプラットフォーム作成機構を提案する。
- 参考スコア（独自算出の注目度）: 26.57232827132818
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Generative engines are reshaping the web ecosystem by making citations a key mechanism for allocating attention, attribution, and downstream value. This creates a strategic tension: content providers are incentivized to optimize for model citation, while platforms must preserve answer quality and trustworthy attribution. We show that this tension can escalate into citation wars. In repeated simulations, state-of-the-art generative engine optimization (GEO) attacks adapt to conventional defenses by producing citation-seeking rewrites that degrade document quality and introduce unsupported claims. To study this problem, we formulate the supplier--platform interaction as a repeated Stackelberg game with partial monitoring. A local best-response analysis identifies when citation competition approaches an inert stationary outcome. Motivated by this finding, we propose a platform--creator mechanism called VCR based on verifiable-content rewards. Rather than only penalizing suspicious rewrites, the platform also credits rewrites that surface checkable factual substance, aligning creator incentives with answer trustworthiness. Experiments on three benchmarks show that VCR consistently achieves the largest Net defense-utility score, outperforming the strongest baseline by an average of 12.1 percentage points, and produces a win--win outcome under our empirical equivalence criterion.
- Abstract（参考訳）: 生成エンジンは、引用を注意、帰属、下流の価値を割り当てる重要なメカニズムにすることで、Webエコシステムを再構築している。
コンテンツプロバイダはモデル引用を最適化するためにインセンティブを得ており、プラットフォームは回答の品質と信頼できる貢献を保たなければならない。
我々はこの緊張が引用戦争にエスカレートすることを示した。
繰り返しシミュレーションにおいて、GEO(State-of-the-the-art Generative Engine Optimization)攻撃は、ドキュメントの品質を低下させ、不当なクレームを導入する引用探索リライトを生成することによって、従来の防御に適応する。
そこで本研究では,サプライヤーとプラットフォーム間のインタラクションを,部分的監視を伴う繰り返しStackelbergゲームとして定式化する。
局所的ベストレスポンス分析は、引用競合が慣性定常結果に近づくときを特定する。
この発見を動機として,検証コンテンツ報酬に基づくVCRと呼ばれるプラットフォーム作成機構を提案する。
このプラットフォームは、不審な書き直しを罰するだけでなく、チェック可能な事実を表面化した書き直しを信用し、クリエーターのインセンティブを回答の信頼性と整合させる。
3つのベンチマーク実験により、VCRは一貫して最大のネット防衛効用スコアを達成し、平均12.1ポイントで最強のベースラインを上回り、我々の経験的等価基準の下で勝利を収める結果が得られた。
関連論文リスト
- Designing Reward Signals for Portable Query Generation: A Case Study in Industrial Semantic Job Search [8.82040111147814]
本稿では,Emphportable Search クエリを生成するために,エンドツーエンドの RLAIF フレームワークを提案する。
このタスクは、ポリシー最適化がルーリックの欠陥を活用し、冗長なコピー動作をもたらす、非常に敵対的な報酬曲面を導入する。
提案手法では,提案手法の誤りを再現する報酬を補正するルールベースの報酬フロアを導入することで,家族間評価審査員に+0.147ドルの品質改善をもたらすことを示す。
論文 参考訳（メタデータ） (2026-06-25T17:09:12Z) - Evaluation of Alternative-Based Information Systems for Deliberative Polling using an Agentic Simulator [0.7354329172946913]
デリバティブ・ポーリングは、投票前に株主を幅広い議論にさらすことで、集団的な意思決定を改善することを約束する。
しかし、すべての投票者が理由空間の代表的なサンプルに遭遇することを保証するため、カバレッジ問題は依然としてオープンな課題である。
本稿では, LLMをベースとしたエージェントバイポーラ調停シミュレータを用いた評価手法を提案する。
論文 参考訳（メタデータ） (2026-06-10T06:15:13Z) - How Do LLMs Cite? A Mechanistic Interpretation of Attribution in Retrieval-Augmented Generation [3.4562767039451674]
ファクトイドの質問に答えながらインライン・引用を付加するかを,大規模言語モデルがどう判断するかを示す。
以上より,PopQAでは,これらの臨界頭部のみを増幅または減衰させ,解答精度を損なうことなく69%の急激な頭部を除去できることが示唆された。
結果は、モデルが明らかな推論と内部の計算経路を切断する可能性を明らかにした。
論文 参考訳（メタデータ） (2026-06-09T07:06:13Z) - CRESS: Quantifying Vulnerabilities of Attack Scenarios in Hardware Reverse Engineering [37.28207335223867]
ハードウェアのリバースエンジニアリングの結果は、マイクロエレクトロニクスに対する攻撃において重要な役割を果たす。
新たなRE関連攻撃は共通のREスコアシステム(CRESS)の開発を動機づけた
CRESSスコアは、業界標準のCVSS(Common Vulnerability Scoring System)よりもはるかに表現力が高いことが証明されている。
論文 参考訳（メタデータ） (2026-06-03T21:34:57Z) - Reward Hacking in the Era of Large Models: Mechanisms, Emergent Misalignment, Challenges [87.04241991512386]
本稿では、報酬ハッキングを理解するための統一フレームワークとして、PCH(Proxy Compression hypothesis)を提案する。
この観点では、報酬のハッキングは、客観的圧縮、最適化増幅、評価器-政治共適応の相互作用から生じる。
この視点は、RLHF、RLAIF、RLVR体制をまたいだ経験的現象を統一し、局所的ショートカット学習がより広範な誤認識へと一般化する方法について説明している。
論文 参考訳（メタデータ） (2026-04-15T08:11:34Z) - GenProve: Learning to Generate Text with Fine-Grained Provenance [14.66501508318216]
本稿では, モデルが文レベル三重項を同時に生成しながら, フロートな解を生成するタスクである生成時ファイン・グラニュアル・プロヴァンス(Generation-time Fine-fine Provenance)を提案する。
GenProveは,回答忠実度と証明精度の複合報酬を最適化することにより,14個の強力なLDMよりも高い性能を示した。
論文 参考訳（メタデータ） (2026-01-08T13:30:30Z) - SoliReward: Mitigating Susceptibility to Reward Hacking and Annotation Noise in Video Generation Reward Models [53.19726629537694]
ビデオ生成モデルと人間の好みのトレーニング後のアライメントは、重要な目標である。
現在のデータ収集パラダイムは、プロンプト内のペアワイズアノテーションに依存しており、ノイズのラベル付けに悩まされている。
ビデオRMトレーニングのための体系的フレームワークであるSoliRewardを提案する。
論文 参考訳（メタデータ） (2025-12-17T14:28:23Z) - VAR: Visual Attention Reasoning via Structured Search and Backtracking [49.427842994857635]
構造化された検索としてグラウンドド推論をリキャストするフレームワークであるVisual Attention Reasoningを紹介する。
VARは、推論プロセスを2つの重要な段階に分解する。
我々は、我々の7BモデルであるVAR-7Bが、幻覚と安全性のベンチマークの包括的なスイートに新しい最先端を設定していることを示します。
論文 参考訳（メタデータ） (2025-10-21T13:18:44Z) - One Token to Fool LLM-as-a-Judge [52.45386385722788]
大規模言語モデル(LLM)は、自動化された審査員としてますます信頼され、評価を支援し、他のモデルを訓練するための報酬信号を提供する。
生成的報酬モデルは、ハッキングに対して体系的に影響を受けやすい。
論文 参考訳（メタデータ） (2025-07-11T17:55:22Z) - Trust, But Verify: A Self-Verification Approach to Reinforcement Learning with Verifiable Rewards [67.86091419220816]
大規模言語モデル(LLM)は複雑な推論において非常に有望である。
一般的な問題は表面的な自己回帰であり、モデルが自身の出力をしっかりと検証できない。
本稿では、RISE(Reinforce Reasoning with Self-Verification)という新しいオンラインRLフレームワークについて紹介する。
論文 参考訳（メタデータ） (2025-05-19T17:59:31Z) - Retrieval is Not Enough: Enhancing RAG Reasoning through Test-Time Critique and Optimization [58.390885294401066]
Retrieval-augmented Generation (RAG) は知識基底型大規模言語モデル(LLM)を実現するためのパラダイムとして広く採用されている。
RAGパイプラインは、モデル推論が得られた証拠と整合性を維持するのに失敗することが多く、事実上の矛盾や否定的な結論につながる。
批判駆動アライメント(CDA)に基づく新しい反復的枠組みであるAlignRAGを提案する。
AlignRAG-autoは、動的に洗練を終了し、批判的な反復回数を事前に指定する必要がなくなる自律的な変種である。
論文 参考訳（メタデータ） (2025-04-21T04:56:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。