論文の概要: Accountability Asymmetry and Structural Trust in Autonomous AI Systems
- arxiv url: http://arxiv.org/abs/2608.03670v1
- Date: Tue, 04 Aug 2026 13:47:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 07:04:20.725668
- Title: Accountability Asymmetry and Structural Trust in Autonomous AI Systems
- Title（参考訳）: 自律型AIシステムにおけるアカウンタビリティ非対称性と構造信頼
- Abstract要約: AIシステムは依然としてエンジニアリングコントロールの対象であるが、その制度的な意味では影響を受けない。
より深い問題は、アクションを選択するコンポーネントではなく、システムに責任を持つ人々や機関に結果が当てはまることです。
そこで本稿では,自律型AIガバナンスをインフラストラクチャの信頼性の問題として扱う。
- 参考スコア（独自算出の注目度）: 0.16946842589920252
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Autonomous AI systems (such as AI agents) are increasingly being delegated operational work across scientific-computing infrastructure. Their assignments may begin with preparing an input or routing an alert and extend to changing a configuration or submitting a job. That delegation creates a practical trust problem because the institutional logic that lets us trust human operators does not transfer to optimization-based systems. A bad decision can damage a human operator's future, sometimes severely. An AI system remains subject to engineering control, but it does not bear consequences in that institutional sense. I use the term accountability asymmetry for this mismatch. The issue is not simply that a model cannot be punished as a person can. The deeper problem is that consequence lands on the people and institutions responsible for the system rather than on the component selecting the action. Alignment can improve model behavior, and liability can discipline the organization, but neither creates the same pre-action deterrent that governs a human operator. This paper therefore treats autonomous AI governance as a problem of infrastructure reliability. Its constructive proposal is engineered heterogeneity: the process that proposes an action should not serve as its sole approver and auditor. Independent monitoring and review over time provide additional checks on that process.
- Abstract（参考訳）: 自律型AIシステム(AIエージェントなど)は、科学計算インフラストラクチャ間での運用作業の委譲がますます進んでいる。
彼らの割り当ては、入力の準備やアラートのルーティングから始まり、設定の変更やジョブの送信まで拡張される。
なぜなら、人間のオペレーターを信頼できる制度論理は最適化ベースのシステムに移行しないからです。
悪い決断は、時に深刻な、人間のオペレーターの将来を損なう可能性がある。
AIシステムは依然としてエンジニアリングコントロールの対象であるが、その制度的な意味では影響を受けない。
私はこのミスマッチに説明責任非対称性という用語を使います。
問題は、モデルが人として罰せられないということだけではない。
より深い問題は、アクションを選択するコンポーネントではなく、システムに責任を持つ人々や機関に結果が当てはまることです。
調整はモデルの振る舞いを改善することができ、責任は組織を規律することができるが、どちらも人間のオペレーターを管理するのと同じ事前行動抑止力を生成する。
そこで本稿では,自律型AIガバナンスをインフラストラクチャの信頼性の問題として扱う。
アクションを提案するプロセスは、その唯一の承認者および監査役として機能すべきではない。
独立した監視とレビューによって、そのプロセスに関する追加チェックが提供される。
関連論文リスト
- Mechanism Design Is Not Enough: Prosocial Agents for Cooperative AI [49.05972944310475]
契約がすべての関連する将来の事態を区別できない場合、現実的なメカニズムを排除できない、厳密な肯定的な福祉損失が存在することを示す。
このギャップを埋め、社会的に優越し、個々に有益である結果が得られることを示す。
論文 参考訳（メタデータ） (2026-05-08T19:37:07Z) - Automated alignment is harder than you think [41.94180208011558]
人工超知能(ASI)の整列に関する主要な提案は、AIエージェントを使用して、能力の向上に伴い、アライメント研究のごく一部を自動化することである。
我々は、研究員がアライメント作業の妨害を計画していないとしても、この計画は説得力はあるが破滅的に誤解を招く安全評価を生み出すかもしれないと論じている。
これは、アライメント研究には多くの面倒な作業が伴うためである。
論文 参考訳（メタデータ） (2026-05-07T15:06:37Z) - Think Before You Act -- A Neurocognitive Governance Model for Autonomous AI Agents [4.064061517379954]
企業、医療、安全に重要な環境に自律的なAIエージェントが急速に展開したことで、基本的なガバナンスギャップが生まれている。
我々は、人間がどのように自然に自己統治するか、つまり行動する前に、人間が実行機能に基づく意図的な認知プロセスに従事しているかについて、このギャップに対処する。
本稿では、この人間の自己統治プロセスをエージェント推論に正式にマッピングする神経認知的ガバナンスフレームワークを提案する。
論文 参考訳（メタデータ） (2026-04-28T14:15:20Z) - Reciprocal Trust and Distrust in Artificial Intelligence Systems: The Hard Problem of Regulation [0.0]
記事は、AIシステムは、ある形態のエージェンシーを実行することができるアーティファクトとして認識されるべきである、と論じている。
この研究は、AIシステムの監視を担当する規制当局に対して、これらの相互信頼のダイナミクスがもたらす意味を考察する。
論文 参考訳（メタデータ） (2026-04-07T12:57:16Z) - I Can't Believe It's Corrupt: Evaluating Corruption in Multi-Agent Governance Systems [8.670200461690454]
機関的AIの完全性は、デプロイ後仮定ではなく、デプロイ前要件として扱われるべきであることを示す。
エージェントが異なる権限構造の下で正式な政府の役割を担っているマルチエージェントガバナンスシミュレーションを評価した。
28,112個の転写セグメントにまたがる独立系裁判官によるルールブレーキングと乱用の結果を収集する。
論文 参考訳（メタデータ） (2026-03-19T13:34:54Z) - Delegation Without Living Governance [0.0]
ほとんどのガバナンスフレームワークは、ルールを事前に定義し、システムは順応するように設計し、結果が得られた後に説明責任を適用することができると仮定しています。
本稿では、静的なコンプライアンスベースのガバナンスは、意思決定が実行に移って不透明になったときに失敗する、と論じる。
最大の課題は、AIが意識しているかどうかではなく、人間がますます異質なインテリジェンスと有意義なコミュニケーション、影響力、共進化を維持することができるかどうかだ、と氏は主張する。
論文 参考訳（メタデータ） (2026-01-29T03:40:40Z) - A Moral Agency Framework for Legitimate Integration of AI in Bureaucracies [0.0]
公務員官僚は人工知能(AI)の恩恵を享受しようとする
本稿では,官僚構造におけるAIの合法的な統合のための3点のモラルエージェンシー・フレームワークを提案する。
論文 参考訳（メタデータ） (2025-08-11T17:49:19Z) - When Autonomy Goes Rogue: Preparing for Risks of Multi-Agent Collusion in Social Systems [78.04679174291329]
悪意のあるマルチエージェントシステム(MAS)のリスクをシミュレートするための概念実証手法を提案する。
この枠組みを、誤情報拡散とeコマース詐欺という2つのリスクの高い分野に適用する。
その結果,分散システムの方が,集中型システムよりも悪意ある行動を実行するのに効果的であることが示唆された。
論文 参考訳（メタデータ） (2025-07-19T15:17:30Z) - Artificial Intelligence in Government: Why People Feel They Lose Control [44.99833362998488]
行政における人工知能の利用は急速に拡大している。
AIはより効率と応答性を約束するが、政府機能への統合は公正性、透明性、説明責任に関する懸念を提起する。
この記事では、デリゲートの特別事例として、AI導入に関するプリンシパル・エージェント理論を適用します。
論文 参考訳（メタデータ） (2025-05-02T07:46:41Z) - Towards evaluations-based safety cases for AI scheming [37.399946932069746]
本論では,安全事例がスケジューリングに有効である,という3つの論点を提案する。
第一に、フロンティアAIシステムの開発者は、AIシステムはスケジューリングができないと主張するかもしれない。
第二に、AIシステムはスケジューリングによって害を与えることができない、という主張もある。
第三に、AIシステムが意図的にそれらを覆そうと試みても、AIシステムを取り巻く制御手段が受け入れられない結果を防ぐと論じることもできる。
論文 参考訳（メタデータ） (2024-10-29T17:55:29Z) - Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。
人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。
これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
論文 参考訳（メタデータ） (2024-10-10T17:38:38Z) - Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。
これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文 参考訳（メタデータ） (2022-01-26T18:53:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。