論文の概要: Responsible Agentic AI Requires Explicit Provenance

• arxiv url: http://arxiv.org/abs/2605.17169v1
• Date: Sat, 16 May 2026 21:56:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-19 17:57:47.71822
• Title: Responsible Agentic AI Requires Explicit Provenance
• Title（参考訳）: 責任を負うエージェントAI
• Authors: Jinwei Hu, Xinmiao Huang, Qisong He, Youcheng Sun, Yi Dong, Xiaowei Huang,
• Abstract要約: 責任は広く議論されているにもかかわらず、主観的で非強制的な概念である。 現在のエージェントフレームワークは、それを割り当てるために必要な定量化され、トレース可能で、介入可能な証明を生成しません。
• 参考スコア（独自算出の注目度）: 17.89778248696407
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Agentic AI is rapidly proliferating across diverse real-world domains such as software engineering, yet public trust has not kept pace. The central reason is that responsibility, despite being widely discussed, remains a subjective and unenforced concept, as no current agentic framework produces the quantifiable, traceable, and interventionable provenance needed to assign it when harm emerges from compositions no single party designed. We position that what is missing is not better benchmark-level evaluation but $\textbf{explicit provenance}$ across the full agentic lifecycle, which is the only viable basis for making responsibility computable and actionable. We advance this agenda along four axes: establishing $\textit{why}$ such provenance is a structural necessity by identifying responsibility gaps across sociotechnical dimensions, formalizing $\textit{what}$ it must encode through a causal attribution function and responsibility tensor, discussing $\textit{how}$ it can be made computable across four lifecycle layers with preliminary experiments showing that provenance is estimable and interveneable online before irreversible harm accumulates, and examining $\textit{who}$ bears responsibility through a concrete agentic incident. Explicit provenance is not a discretionary refinement but the necessary condition for responsible agentic AI, and no stakeholder across its ecosystem can afford to treat it as optional.
• Abstract（参考訳）: エージェントAIは、ソフトウェアエンジニアリングのようなさまざまな現実世界のドメインで急速に普及していますが、公的な信頼はペースを保っていません。 主な理由は、広く議論されているにも拘わらず、現在のエージェント・フレームワークが、単一の当事者が設計していない構成から害が生じたときに、それを割り当てるために必要な量的、トレース可能、介入可能な証明を創出しないため、主観的で非強制的な概念のままである。 現在欠けているのは、ベンチマークレベルの評価が優れているのではなく、フルエージェントライフサイクル全体にわたって$\textbf{explicit provenance}$である、と私たちは考えています。 このアジェンダを4つのアジェンダに沿って進める: $\textit{why}$そのような証明は、社会技術的次元の責任ギャップを識別して構造的な必要条件であり、$\textit{what}$は因果帰属関数と責任テンソルを通じてエンコードする必要がある。 明示的な証明は、決定的な改善ではなく、責任あるエージェントAIに必要な条件であり、そのエコシステムのステークホルダーがそれをオプションとして扱う余裕がない。

関連論文リスト

• PRISM: Prior Rectification and Uncertainty-Aware Structure Modeling for Diffusion-Based Text Image Super-Resolution [51.96078493242164]
  PRISMは単一ステップ拡散ベースのText-SRフレームワークである。 PRISMはミリ秒レベルの推論で最先端の性能を達成する。
  論文  参考訳（メタデータ） (2026-05-13T05:31:06Z)
• PRISM: : Planning and Reasoning with Intent in Simulated Embodied Environments [59.07829883257003]
  5つの集合住宅の上に建設され、PRISMは300の人間認証タスクを3つの能力レベルに構成する。 PRISMはエージェントに依存しない実行可能なアクションAPIを公開し、任意のエージェントをエンドツーエンドで評価できるようにする。
  論文  参考訳（メタデータ） (2026-05-12T04:59:47Z)
• Agentic AI Systems Should Be Designed as Marginal Token Allocators [2.629665653283008]
  エージェントAIシステムは,電子トークン割り当て経済として設計・評価されるべきである,と我々は主張する。 これら4つの層がいずれも,Emphsame 1次条件を解決していることを示す。
  論文  参考訳（メタデータ） (2026-05-02T03:06:02Z)
• Retrieval Is Not Enough: Why Organizational AI Needs Epistemic Infrastructure [0.0]
  我々は、組織AIの天井は、検索忠実性ではなく、経験的忠実性であると主張している。 我々は,組織的知識を型付き知識オブジェクトとして構築するフレームワークであるOIDAを提案する。 我々はQUESTION-as-modeled-ignoranceを紹介します。
  論文  参考訳（メタデータ） (2026-04-13T17:31:14Z)
• The Accountability Horizon: An Impossibility Theorem for Governing Human-Agent Collectives [0.0]
  AIシステム、法的、倫理的、規制に関する既存の説明責任フレームワークは、共有された前提に基づいている。 本稿では,エージェントAIシステムが計算可能なしきい値を超えた数学的必要条件として,この仮定に違反していることを証明する。 我々は,エージェントを国家政治としてモデル化する共同AIシステムの形式化であるHuman-Agent Collectivesを紹介する。
  論文  参考訳（メタデータ） (2026-04-09T04:08:26Z)
• When Should a Robot Think? Resource-Aware Reasoning via Reinforcement Learning for Embodied Robotic Decision-Making [68.12864562049957]
  身体ロボットシステムは、高レベルの推論をサポートするために、大規模言語モデル(LLM)ベースのエージェントにますます依存している。 エージェントはいつ、いつ、いつ行動すべきか? 本稿では,エンボディエージェントのリソース・アウェア・オーケストレーションのための階層的なフレームワークであるRARRL(Resource-Aware Reasoning via Reinforcement Learning)を提案する。
  論文  参考訳（メタデータ） (2026-03-17T15:38:50Z)
• Beyond Benchmark Islands: Toward Representative Trustworthiness Evaluation for Agentic AI [45.21562889170875]
  シナリオ多様体に対するエージェントの信頼性を特徴付けるシステム評価パラダイムを提案する。 このフレームワークは,静的認知と政策分析,対話型サンドボックスシミュレーション,社会倫理アライメントアライメントアセスメント,および(iv)分散対応の代表サンプリングエンジンの4つの補完的コンポーネントを統合している。
  論文  参考訳（メタデータ） (2026-03-16T08:51:33Z)
• The Why Behind the Action: Unveiling Internal Drivers via Agentic Attribution [63.61358761489141]
  LLM(Large Language Model)ベースのエージェントは、カスタマーサービス、Webナビゲーション、ソフトウェアエンジニアリングといった現実世界のアプリケーションで広く使われている。 本稿では,タスク結果に関係なく,エージェントの動作を駆動する内部要因を識別する,テキスト汎用エージェント属性のための新しいフレームワークを提案する。 標準ツールの使用やメモリ誘起バイアスのような微妙な信頼性リスクなど、さまざまなエージェントシナリオでフレームワークを検証する。
  論文  参考訳（メタデータ） (2026-01-21T15:22:21Z)
• Fluid Agency in AI Systems: A Case for Functional Equivalence in Copyright, Patent, and Tort [0.31061678033205636]
  現代の人工知能(AI)システムには、人間の意識や能力が欠如している。 流体機関は貴重な出力を生成するが、帰属は崩壊する。 本条では,機能的等価性だけが教義を安定させると主張している。
  論文  参考訳（メタデータ） (2026-01-06T01:06:07Z)
• Project Ariadne: A Structural Causal Framework for Auditing Faithfulness in LLM Agents [0.0]
  エージェント推論の因果的整合性を評価するための新しいXAIフレームワークである textbfProject Ariadne を紹介する。 表面レベルのテキスト類似性に依存する既存の解釈可能性メソッドとは異なり、Project Ariadne は中間推論ノードに対して textbfhard の介入(do$-calculus)を行う。 我々の最先端モデルに対する実証的な評価は、永続的なテクスチャフルネスギャップを明らかにします。
  論文  参考訳（メタデータ） (2026-01-05T18:05:29Z)
• CausalCity: Complex Simulations with Agency for Causal Discovery and Reasoning [68.74447489372037]
  本稿では,因果探索と反事実推論のためのアルゴリズムの開発を目的とした,高忠実度シミュレーション環境を提案する。 私たちの作業の中核となるコンポーネントは、複雑なシナリオを定義して作成することが簡単になるような、テキストの緊急性を導入することです。 我々は3つの最先端の手法による実験を行い、ベースラインを作成し、この環境の可利用性を強調する。
  論文  参考訳（メタデータ） (2021-06-25T00:21:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。