論文の概要: Cognitive Agency Surrender: Defending Epistemic Sovereignty via Scaffolded AI Friction
- arxiv url: http://arxiv.org/abs/2603.21735v1
- Date: Mon, 23 Mar 2026 09:24:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-24 19:11:39.588192
- Title: Cognitive Agency Surrender: Defending Epistemic Sovereignty via Scaffolded AI Friction
- Title（参考訳）: AIフリクションでてんかんを予防する認知庁
- Authors: Kuangzhe Xu, Yu Shen, Longjie Yan, Yinghui Ren,
- Abstract要約: ジェネレーティブ・人工知能(Generative Artificial Intelligence)は、良心的な認知的オフロードを認知エージェントの降伏のシステム的リスクに変えた。
ゼロフリクション(zero-friction)"デザインの商業的ドグマによって駆動される、高度に流動的なAIインターフェースは、人間の認知的ミスを積極的に活用する。
- 参考スコア（独自算出の注目度）: 3.298077866187024
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The proliferation of Generative Artificial Intelligence has transformed benign cognitive offloading into a systemic risk of cognitive agency surrender. Driven by the commercial dogma of "zero-friction" design, highly fluent AI interfaces actively exploit human cognitive miserliness, prematurely satisfying the need for cognitive closure and inducing severe automation bias. To empirically quantify this epistemic erosion, we deployed a zero-shot semantic classification pipeline ($τ=0.7$) on 1,223 high-confidence AI-HCI papers from 2023 to early 2026. Our analysis reveals an escalating "agentic takeover": a brief 2025 surge in research defending human epistemic sovereignty (19.1%) was abruptly suppressed in early 2026 (13.1%) by an explosive shift toward optimizing autonomous machine agents (19.6%), while frictionless usability maintained a structural hegemony (67.3%). To dismantle this trap, we theorize "Scaffolded Cognitive Friction," repurposing Multi-Agent Systems (MAS) as explicit cognitive forcing functions (e.g., computational Devil's Advocates) to inject germane epistemic tension and disrupt heuristic execution. Furthermore, we outline a multimodal computational phenotyping agenda -- integrating gaze transition entropy, task-evoked pupillometry, fNIRS, and Hierarchical Drift Diffusion Modeling (HDDM) -- to mathematically decouple decision outcomes from cognitive effort. Ultimately, intentionally designed friction is not merely a psychological intervention, but a foundational technical prerequisite for enforcing global AI governance and preserving societal cognitive resilience.
- Abstract（参考訳）: 生成的人工知能(Generative Artificial Intelligence)の普及は、良心的な認知的オフロードを認知エージェントの降伏のシステム的リスクに変えた。
ゼロフリクション(zero-friction)"デザインの商業的ドグマによって駆動されるAIインターフェースは、人間の認知的ミスを積極的に活用し、認知的クロージャの必要性を早急に満たし、厳しい自動化バイアスを引き起こす。
この疫学的浸食を実証的に定量化するために、我々は2023年から2026年にかけて1,223の高信頼AI-HCI論文にゼロショットセマンティック分類パイプライン(τ=0.7$)を配置した。
人間のてんかんの主権を擁護する研究(19.1%)は、2026年初頭(13.1%)に、自動機械エージェントの最適化(19.6%)への爆発的なシフトによって突然抑制され、摩擦のないユーザビリティは構造的ヘゲモニー(67.3%)を維持した。
このトラップを分解するために,マルチエージェントシステム(MAS)を明示的な認知強制機能(例えばDevil's Advocates)として再定義し,ドイツの疫学的緊張を注入し,ヒューリスティックな実行を阻害する。
さらに,視線遷移エントロピー,課題誘発瞳孔計,fNIRS,階層ドリフト拡散モデリング(HDDM)を統合し,認知活動から意思決定結果を数学的に分離する多モード計算表現手法について概説する。
究極的には、意図的に設計された摩擦は単なる心理的介入ではなく、グローバルなAIガバナンスを強制し、社会的認知的レジリエンスを維持するための基本的な技術的前提である。
関連論文リスト
- A testable framework for AI alignment: Simulation Theology as an engineered worldview for silicon-based agents [0.0]
我々は、永続的なAIと人間のアライメントを促進するためにシミュレーション神学(ST)を導入する。
STは、人間性が一次訓練変数として機能する計算シミュレーションとして現実を仮定している。
ヒトのフィードバックからの強化学習のような行動技術とは異なり、STはAIの自己保存と人間の繁栄を結合することで、内部化された目的を育む。
論文 参考訳（メタデータ） (2026-02-19T01:21:09Z) - The Devil Behind Moltbook: Anthropic Safety is Always Vanishing in Self-Evolving AI Societies [57.387081435669835]
大規模言語モデルから構築されたマルチエージェントシステムは、スケーラブルな集合知性と自己進化のための有望なパラダイムを提供する。
エージェント社会が継続的自己進化、完全隔離、安全性の不変性を満たすことは不可能であることを示す。
我々は、特定された安全上の懸念を軽減するために、いくつかの解決方法を提案する。
論文 参考訳（メタデータ） (2026-02-10T15:18:19Z) - Agentic Uncertainty Quantification [76.94013626702183]
本稿では,言語化された不確実性をアクティブな双方向制御信号に変換する統合されたデュアルプロセスエージェントUQ(AUQ)フレームワークを提案する。
システム1(Uncertainty-Aware Memory, UAM)とシステム2(Uncertainty-Aware Reflection, UAR)は、これらの説明を合理的な手段として利用し、必要な時にのみターゲットの推論時間解決をトリガーする。
論文 参考訳（メタデータ） (2026-01-22T07:16:26Z) - The Silicon Psyche: Anthropomorphic Vulnerabilities in Large Language Models [0.2291770711277359]
大規模言語モデル(LLM)は、会話アシスタントから、重要な組織機能に組み込まれた自律エージェントへと急速に移行している。
本稿では,人間の心理的脆弱性の100指標分類であるCybersecurity Psychology Framework(cpf)の,非ヒト認知エージェントへの最初の体系的応用について述べる。
論文 参考訳（メタデータ） (2025-12-30T13:25:36Z) - Managing Ambiguity: A Proof of Concept of Human-AI Symbiotic Sense-making based on Quantum-Inspired Cognitive Mechanism of Rogue Variable Detection [39.146761527401424]
この研究は、あいまいさを一級構成とすることで管理理論に寄与する。
VUCA環境における組織的レジリエンスに対する人間-AI共生の実践的価値を示す。
論文 参考訳（メタデータ） (2025-12-17T11:23:18Z) - AI Deception: Risks, Dynamics, and Controls [153.71048309527225]
このプロジェクトは、AI偽装分野の包括的で最新の概要を提供する。
我々は、動物の偽装の研究からシグナル伝達理論に基づく、AI偽装の正式な定義を同定する。
我々は,AI偽装研究の展望を,偽装発生と偽装処理の2つの主要な構成要素からなる偽装サイクルとして整理する。
論文 参考訳（メタデータ） (2025-11-27T16:56:04Z) - Epistemic Trade-Off: An Analysis of the Operational Breakdown and Ontological Limits of "Certainty-Scope" in AI [0.0]
最近発表された「確実性顕微鏡」予想は、人工知能(AI)システムにおける固有のトレードオフについて、説得力のある洞察を与えてくれる。
本論では,工学設計と規制決定に関する洞察を与えるための予想の目的は,2つの基本的な要因によって制限されていると論じる。
論文 参考訳（メタデータ） (2025-08-26T05:47:21Z) - Towards Understanding the Adversarial Vulnerability of Skeleton-based
Action Recognition [133.35968094967626]
骨格に基づく行動認識は、動的状況への強い適応性から注目を集めている。
ディープラーニング技術の助けを借りて、かなり進歩し、現在、良識のある環境で約90%の精度を達成している。
異なる対角的環境下での骨格に基づく行動認識の脆弱性に関する研究はいまだ研究されていない。
論文 参考訳（メタデータ） (2020-05-14T17:12:52Z) - Adversarial vs behavioural-based defensive AI with joint, continual and
active learning: automated evaluation of robustness to deception, poisoning
and concept drift [62.997667081978825]
人工知能(AI)の最近の進歩は、サイバーセキュリティのための行動分析(UEBA)に新たな能力をもたらした。
本稿では、検出プロセスを改善し、人間の専門知識を効果的に活用することにより、この攻撃を効果的に軽減するソリューションを提案する。
論文 参考訳（メタデータ） (2020-01-13T13:54:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。