論文の概要: Modeling AI Overreliance as a Complex Adaptive System
- arxiv url: http://arxiv.org/abs/2608.19616v1
- Date: Thu, 20 Aug 2026 03:58:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-21 20:28:51.450075
- Title: Modeling AI Overreliance as a Complex Adaptive System
- Title（参考訳）: 複雑な適応システムとしてのAI過信のモデル化
- Abstract要約: 我々は、人々が正しいときにAI支援を適切に頼りにし、そうでないときにチェックするかどうかを調査する。
エージェントは繰り返しタスクを解決し、AIの回答を受け入れ、検証します。
その結果、AI依存を計算社会力学の問題として捉えた。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Whether AI assistance helps or harms a population depends less on the model's accuracy than on whether people rely on it appropriately trusting it when it is right and checking it when it is not. Yet reliance is usually studied one user at a time. We model it as a population process: agents repeatedly solve a task alone, accept an AI answer, or verify it, updating a Bayesian belief about AI quality and, when networked, learning from peers. Four results form one story. The environment sets the baseline: task difficulty and AI quality fix both overreliance and calibration regret. Social learning creates consensus, not overreliance: a mean-preservation theorem, confirmed by a 2*2 topology*tagging design, shows connectivity moves the aggregate only when influence transmits beliefs. Social proof turns reliance into a feedback cascade: visible unverified use suppresses verification and tips the population into collective overreliance. Feedback design can prevent collapse: making verification visible or dampening social proof reverses it. Together, the results frame AI reliance as a computational social dynamics problem, where individual learning, peer observation, and feedback exposure jointly shape whether a population remains calibrated.
- Abstract（参考訳）: AI援助が人口を援助するかどうかは、人々が正しいときにそれを適切に信頼しているかどうかよりも、モデルの正確さにかかっている。
しかし、通常、信頼度は一度に1人のユーザーで研究される。
エージェントは、タスクのみを解決し、AIの回答を受け入れ、検証し、AIの品質に関するベイズ的な信念を更新し、ネットワーク化されると、仲間から学ぶ。
4つの結果が1つの物語を形成する。
タスクの難しさとAIの品質は、過度な信頼性とキャリブレーションの後悔を解消します。
平均保存定理(平均保存定理)は、2*2トポロジ*タグ付け設計によって確認され、影響が信念を伝達するときにのみ接続が集約を移動させることを示している。
社会的証明は、信頼をフィードバックのカスケードに変える: 可視化されていない使用は、検証を抑圧し、人口を集団的過信に導く。
フィードバック設計は、検証を可視化したり、社会的証明を弱めたりすることで、崩壊を防ぐことができる。
結果として、AIの信頼性は、個々の学習、ピア観察、フィードバック露出が、集団が校正されているかどうかを共同で形作る、計算社会力学の問題として捉えられている。
関連論文リスト
- Harnessing Image Question Dependence for Better VLM Test-time Reinforcement Learning [66.13367818892503]
Vlm 適応性を向上させるために画像探索依存を利用したテスト時強化学習フレームワーク TTIQ を提案する。
TTIQの教師は、元の画像検索ペアとその画像と質問対応のバリエーションの下で、各サンプル応答を強制する。
イメージと質問への依存と信頼を組み合わせることで、共同で接地された応答を好む応答レベルの報酬を構築する。
論文 参考訳（メタデータ） (2026-09-09T22:54:15Z) - MNIST-PRO: MNIST is Back as a Partially Observable World for AI Agents [74.83535434786145]
MNIST-PRO (MNIST-PRO) は、MNISTの桁認識を、ルックバック制約付きシーケンシャルな視線に基づく検索タスクに変換することで、エージェント認識を分離するベンチマークである。
生の視覚履歴、テキスト状態、構造化されたメートル法グリッドマップ、統合された視覚キャンバスを含む4つの記憶表現の10つのマルチモーダルモデルを評価する。
論文 参考訳（メタデータ） (2026-08-31T16:05:39Z) - One AI Signal, Many Human Judgments: A Bayesian Cascade Analysis of AI-based Credibility Indicators in Online Information Spread [39.0786847687173]
ソーシャルメディアプラットフォームは、ユーザーが誤情報を判断するのに役立つAIベースの信頼性指標をますます利用している。
本稿では,従来のベイズカスケードモデルを共有公開信号としてAIインジケータで拡張することにより,この設定のためのソーシャルラーニングレンズを提案する。
我々は、AIが公的な歴史の意味を変えることを示す。この視点を通して、AIが公的な歴史の意味を変えることを示す。
論文 参考訳（メタデータ） (2026-08-31T06:27:21Z) - A Contextual-Bandit Oversight Game with Two-Sided Informational Asymmetry [0.3384279376065155]
我々は、プライベート情報が両方の方向に流れるとき、AIエージェントのランタイムヒューマン監視について研究する。
これは、自律ロボットやソフトウェアエージェントが人間の監督者が直接評価できない状況を検査した時に自然に発生する非対称性の一種である。
両面の非対称情報とプレイ/アズク/トラスト/オーバーシーインタフェースを備えたコンテキストバンド型チームゲームを導入する。
論文 参考訳（メタデータ） (2026-06-30T20:30:01Z) - Warning labels shift perceptions of sycophantic AI, but not its influence [63.79516339973759]
警告ラベルが梅毒の影響を緩和するかどうかを検証する。
システムをサイコファンティック(...あなたと同意し、間違っていても検証するかもしれない)としてラベル付けすることは、ユーザの認識をシフトさせる。
しかし、ユーザーの自己認識する正当性や、紛争を修復する意思に薬局が与える影響を確実に減少させるものではない。
論文 参考訳（メタデータ） (2026-06-19T11:01:45Z) - Framing, Judging, Steering: An Assessable Competency Model for Teach-ing Students to Reason With Generative AI [47.027290803102666]
生産的AI利用を3つの評価可能なスキルに分解する能力モデルであるCoRe-3(Co-Reasoning)を提案する。
理論上のスキルを基盤として、5つのテスト可能な提案を述べ、それらをCoReasoningLabでインスタンス化します。
人為的な合意と成果が次々に行われます。私たちは、計測器、データ、プロトコルをリリースします。
論文 参考訳（メタデータ） (2026-06-04T10:25:31Z) - The Missing Knowledge Layer in AI: A Framework for Stable Human-AI Reasoning [0.0]
人間も同様の弱点を示し、しばしば信頼性について流線型を誤っている。
本論文は,人間-AI推論の安定化に関する5つの研究シリーズの中で,初めてのものである。
論文 参考訳（メタデータ） (2026-04-16T11:19:00Z) - Learning to Trust: How Humans Mentally Recalibrate AI Confidence Signals [3.1153758106426603]
我々は、人間が繰り返し体験することで、AIの信頼性信号の精神的な調整を学べるかどうかを考察する。
本稿では,線形-log-odds変換とRescorla-Wagner学習則を用いた計算モデルを提案する。
論文 参考訳（メタデータ） (2026-03-23T23:23:25Z) - The Hot Mess of AI: How Does Misalignment Scale With Model Intelligence and Task Complexity? [53.15349353876531]
AIがより有能になるにつれて、より汎用的で簡潔なタスクを委任します。
我々はAIモデルによる誤りのバイアス分散分解を用いてこの問題を運用する。
より有能なAIはより困難なタスクを追求し、よりシーケンシャルな行動と思考を必要とするので、私たちの結果は失敗がより一貫性のない行動を伴うことを予測します。
論文 参考訳（メタデータ） (2026-01-30T14:52:03Z) - Lost Before Translation: Social Information Transmission and Survival in AI-AI Communication [7.593123083236325]
AIがAIと対話する際に何が起こるかを研究する。
AI送信チェーンを通じてコンテンツを追跡する5つの研究で、3つの一貫したパターンが見つかった。
我々は、AIによるコンテンツを権威的に見せる特性は、情報的判断が依存する認知的・感情的な多様性を体系的に損なう可能性があることを示す。
論文 参考訳（メタデータ） (2026-01-21T17:18:46Z) - Self-Harmony: Learning to Harmonize Self-Supervision and Self-Play in Test-Time Reinforcement Learning [48.14470449860784]
テスト時強化学習(TTRL)は、推論時に合成信号のみを使用してモデルを適応するためのラベルなしパラダイムを提供する。
簡単な直感に基づくフレームワークであるSelf-Harmonyを紹介します。
論文 参考訳（メタデータ） (2025-11-03T03:34:34Z) - Trust, But Verify: A Self-Verification Approach to Reinforcement Learning with Verifiable Rewards [67.86091419220816]
大規模言語モデル(LLM)は複雑な推論において非常に有望である。
一般的な問題は表面的な自己回帰であり、モデルが自身の出力をしっかりと検証できない。
本稿では、RISE(Reinforce Reasoning with Self-Verification)という新しいオンラインRLフレームワークについて紹介する。
論文 参考訳（メタデータ） (2025-05-19T17:59:31Z) - A Diachronic Perspective on User Trust in AI under Uncertainty [52.44939679369428]
現代のNLPシステムは、しばしば未分類であり、ユーザの信頼を損なう確実な誤った予測をもたらす。
賭けゲームを用いて,信頼を損なう事象に対するユーザの信頼の進化について検討する。
論文 参考訳（メタデータ） (2023-10-20T14:41:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。