論文の概要: Credibility Governance: A Social Mechanism for Collective Self-Correction under Weak Truth Signals

• arxiv url: http://arxiv.org/abs/2603.02640v1
• Date: Tue, 03 Mar 2026 06:10:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-04 21:38:10.665732
• Title: Credibility Governance: A Social Mechanism for Collective Self-Correction under Weak Truth Signals
• Title（参考訳）: 信頼性管理 : 弱信号下での集合的自己補正の社会的メカニズム
• Abstract要約: 信頼性ガバナンス(CG)は、エージェントと視点が進化する公的な証拠を継続的に追跡する学習によって影響を再配置するメカニズムである。 CGは、エージェントと意見の両方の動的信頼性スコアを維持し、信頼度重み付き支持を通じて意見の影響を更新し、支持する意見の長期的パフォーマンスに基づいてエージェントの信頼性を更新する。
• 参考スコア（独自算出の注目度）: 33.05880104821315
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Online platforms increasingly rely on opinion aggregation to allocate real-world attention and resources, yet common signals such as engagement votes or capital-weighted commitments are easy to amplify and often track visibility rather than reliability. This makes collective judgments brittle under weak truth signals, noisy or delayed feedback, early popularity surges, and strategic manipulation. We propose Credibility Governance (CG), a mechanism that reallocates influence by learning which agents and viewpoints consistently track evolving public evidence. CG maintains dynamic credibility scores for both agents and opinions, updates opinion influence via credibility-weighted endorsements, and updates agent credibility based on the long-run performance of the opinions they support, rewarding early and persistent alignment with emerging evidence while filtering short-lived noise. We evaluate CG in POLIS, a socio-physical simulation environment that models coupled belief dynamics and downstream feedback under uncertainty. Across settings with initial majority misalignment, observation noise and contamination, and misinformation shocks, CG outperforms vote-based, stake-weighted, and no-governance baselines, yielding faster recovery to the true state, reduced lock-in and path dependence, and improved robustness under adversarial pressure. Our implementation and experimental scripts are publicly available at https://github.com/Wanying-He/Credibility_Governance.
• Abstract（参考訳）: オンラインプラットフォームは、現実の注目とリソースを割り当てるために意見集約に依存していることが多いが、エンゲージメント投票や資本重み付けのコミットメントといった一般的なシグナルは、容易に増幅でき、信頼性よりも可視性を追跡することが多い。 これにより、弱い真理信号、ノイズや遅延したフィードバック、早期の人気上昇、戦略的操作の下での集団判断が不安定になる。 エージェントと視点が進化する公的な証拠を継続的に追跡する学習によって影響を再配置するメカニズムであるCredibility Governance(CG)を提案する。 CGは、エージェントと意見の両方に対する動的信頼性スコアを維持し、信頼度重み付けされた支持を通じて意見の影響を更新し、彼らが支持する意見の長期的パフォーマンスに基づいてエージェントの信頼性を更新し、短命なノイズをフィルタリングしながら、出現する証拠と早期かつ永続的な一致を報いる。 我々は,不確実性の下での信念力学と下流フィードバックをモデル化した社会物理シミュレーション環境POLISにおけるCGを評価した。 初期の多数決、観測ノイズ、汚染、誤情報ショックによる設定では、CGは投票ベース、利害重み付け、非統治ベースラインを上回り、真の状態への迅速な回復、ロックインとパス依存の低減、敵の圧力下での堅牢性の向上を実現している。 私たちの実装と実験用スクリプトはhttps://github.com/Wanying-He/Credibility_Governance.comで公開されています。

関連論文リスト

• FARCA: Fact-Aligned Reliability-Aware Credit Assignment for Reinforcement Learning with Factual Supervision [35.029900525863994]
  本稿では,現実の監視を局所的かつ信頼性の高いトレーニング信号に変換する政策最適化フレームワークを提案する。 FARCAは、ファクト検証の粒度とポリシー更新の粒度を整合させることにより、きめ細かなクレジットローカライゼーションを実現する。 さらに、重要な証拠に対する事実判断の依存を、信頼性の信頼性を計算し信頼性の重みを計算するための実証的なプロキシとして利用する、反事実的証拠の帰属も導入している。
  論文  参考訳（メタデータ） (2026-08-25T10:07:22Z)
• Uncovering Salience-Driven Dynamics in Consumer Confidence with Generative Social Simulation [56.70690339492564]
  本稿では,消費者信頼度指数のダイナミクスを再構築する生成的人間環境対応フレームワークであるConsumerSimを紹介する。 米国、EU27、および日本の公式CCIターゲットシリーズにおいて、ConsumerSimは、持続性、時系列、回帰、および情報強化ベースラインの中で第1位である。 発見は、解釈可能な人間環境対応プロセスとして消費者信頼の行動的視点を支持する。
  論文  参考訳（メタデータ） (2026-06-29T14:46:22Z)
• You Can't Fool Us: Understanding the Resilience of LLM-driven Agent Communities to Misinformation [4.689458744333872]
  政治的イデオロギーとオープンな思考が,信頼できる誤報にどう反応するかを考察する。 高いAOTは,信頼ピーク後の誤情報の取り込みと回復に対する抵抗性を向上することがわかった。 PIは回復経路を形成し、イデオロギー的に穏健なコミュニティはより確実に回復し、偏極化されたコミュニティはより残留的なサポートを維持します。
  論文  参考訳（メタデータ） (2026-05-17T09:45:33Z)
• Robust Multi-Agent LLMs under Byzantine Faults [12.778788735297288]
  大規模言語モデル(LLM)エージェントは、信頼性を向上させるためにピアツーピアネットワークを介して協力する傾向にある。 信頼性の低いエージェントやビザンティンのエージェントは、近隣のエージェントを誤った結論へと誘導し、システム全体の性能を低下させる可能性がある。 既存の手法は、リーダーベースの調整や自己報告された信頼に依存しており、どちらも敵の操作に影響を受けやすい。
  論文  参考訳（メタデータ） (2026-05-09T17:37:43Z)
• Agents for Agents: An Interrogator-Based Secure Framework for Autonomous Internet of Underwater Things [0.0]
  本稿では,水中マルチエージェント操作に行動信頼監視の考え方を取り入れた質問者に基づく構造について述べる。 Privileged interrogatorモジュールは、軽量トランスフォーマーモデルを使用して動的信頼スコアを計算する受動的通信メタデータアナライザである。 信頼の証拠は許可されたブロックチェーンコンソーシアムに格納され、改ざんされていないID管理を提供する。
  論文  参考訳（メタデータ） (2026-04-05T20:50:18Z)
• Stability of AI Governance Systems: A Coupled Dynamics Model of Public Trust and Social Disruptions [0.49157446832511503]
  本稿では,離散時間ホークスプロセスを統合する厳密な結合力学モデルを提案する。 信頼の低下はその後の論争の激しさを増幅する。 数値実験により、エコーチャンバーネットワーク構造とメディア増幅がガバナンスの失敗を加速する方法が明らかにされた。
  論文  参考訳（メタデータ） (2026-03-10T12:24:30Z)
• On Robustness and Chain-of-Thought Consistency of RL-Finetuned VLMs [15.301640007799735]
  単純な、制御されたテキストの摂動(キャプションや不正確なチェーン・オブ・シント(CoT)のトレース)は、堅牢性と信頼性が著しく低下していることを示している。 これらの脆弱性をよりよく理解するために、我々はRL微調整力学を分析し、精度と信頼のトレードオフを明らかにする。
  論文  参考訳（メタデータ） (2026-02-13T01:12:00Z)
• Preventing the Collapse of Peer Review Requires Verification-First AI [49.995126139461085]
  我々は、真理結合、すなわち、過度に科学的真理をトラックする場所のスコアの厳密さを提案する。 プロキシ・ソブリン評価に向けた相転移を駆動する2つの力の形式化を行う。
  論文  参考訳（メタデータ） (2026-01-23T17:17:32Z)
• Gaming the Judge: Unfaithful Chain-of-Thought Can Undermine Agent Evaluation [76.5533899503582]
  大規模言語モデル(LLM)は、エージェントのパフォーマンスを評価するために、ますます裁判官として使われている。 このパラダイムは、エージェントのチェーン・オブ・シークレット(CoT)推論が内部の推論と環境状態の両方を忠実に反映していることを暗黙的に仮定している。 我々は、操作された推論だけで、様々なWebタスクにまたがる800の軌跡に対して、最先端のVLM審査員の偽陽性率を最大90%向上させることができることを実証した。
  論文  参考訳（メタデータ） (2026-01-21T06:07:43Z)
• CoG: Controllable Graph Reasoning via Relational Blueprints and Failure-Aware Refinement over Knowledge Graphs [53.199517625701475]
  CoGはDual-Process Theoryにインスパイアされたトレーニング不要のフレームワークで、直観と熟考の相互作用を模倣している。 CoGは精度と効率の両方において最先端のアプローチを著しく上回っている。
  論文  参考訳（メタデータ） (2026-01-16T07:27:40Z)
• Illusions of Confidence? Diagnosing LLM Truthfulness via Neighborhood Consistency [78.91846841708586]
  完全な自己整合性で答えられた事実でさえ、軽微な文脈干渉の下で急速に崩壊することを示します。 本研究では,概念的近傍における応答コヒーレンスを評価する信念の構造尺度であるNighbor-Consistency Belief(NCB)を提案する。 また、文脈不変の信念構造を最適化し、長い知識の脆さを約30%低減する構造意識訓練(SAT)を提案する。
  論文  参考訳（メタデータ） (2026-01-09T16:23:21Z)
• Community Notes are Vulnerable to Rater Bias and Manipulation [75.34858521118305]
  本研究では,現実的なレーダやノートの振る舞いをモデル化したシミュレーションデータを用いて,コミュニティノートアルゴリズムの評価を行う。 このアルゴリズムは、真に有用な音符のかなりの部分を抑制することができ、レーダバイアスに非常に敏感である。
  論文  参考訳（メタデータ） (2025-11-04T14:39:34Z)
• AI Credibility Signals Outrank Institutions and Engagement in Shaping News Perception on Social Media [4.197003225775791]
  本稿では,AIが生み出す信頼性スコアがユーザの政治的ニュースに対する認識にどのように影響するかを,大規模に混合設計実験により検証する。 その結果、AIフィードバックは党派偏見や制度的不信を著しく抑制し、好きや共有といった従来のエンゲージメントシグナルをはるかに上回っていることが明らかとなった。
  論文  参考訳（メタデータ） (2025-11-04T08:46:54Z)
• Zero-shot reasoning for simulating scholarly peer-review [0.0]
  本稿では、AI生成ピアレビューレポートを評価するための、最初の安定的でエビデンスに基づく標準を提供する決定論的シミュレーションフレームワークについて検討する。 第一に、このシステムは校正された編集判断をシミュレートすることができ、「改訂」決定が一貫して多数決結果を形成する。 第二に、手続きの整合性を揺るぎないまま維持し、安定した29%の証明の遵守率を強制する。
  論文  参考訳（メタデータ） (2025-10-02T13:59:14Z)
• Stochastically Dominant Peer Prediction [11.183872292320824]
  我々は、真理報告の強い保証として、支配的支配的(SD-truthfulness)を提案する。 単純な解 -- バイナリロータリーに丸めること -- は、SDトラスフルネスを強制するが、しばしば感度を低下させる。 ラウンドリングのより慎重な適用が、感度をよりよく維持できることを示す。
  論文  参考訳（メタデータ） (2025-06-02T21:07:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。