論文の概要: A Workflow for Full Traceability of AI Decisions

• arxiv url: http://arxiv.org/abs/2511.11275v2
• Date: Mon, 17 Nov 2025 10:24:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-18 14:36:22.596553
• Title: A Workflow for Full Traceability of AI Decisions
• Title（参考訳）: AI決定の完全なトレーサビリティのためのワークフロー
• Authors: Julius Wenzel, Syeda Umaima Alam, Andreas Schmidt, Hanwei Zhang, Holger Hermanns,
• Abstract要約: AIシステムの最先端は、意思決定プロセスの適切なドキュメントに関してほとんど努力しません。 本稿では、自動化された意思決定のトレーニングや推論に進む各コンポーネントのドキュメンテーションを強制することによって、この問題に対して急進的で実践的なアプローチをとる。 これは、AI決定の改ざん、検証、徹底的なトレースの生成をサポートする最初の実行ワークフローを示す。
• 参考スコア（独自算出の注目度）: 1.3369766219454542
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: An ever increasing number of high-stake decisions are made or assisted by automated systems employing brittle artificial intelligence technology. There is a substantial risk that some of these decision induce harm to people, by infringing their well-being or their fundamental human rights. The state-of-the-art in AI systems makes little effort with respect to appropriate documentation of the decision process. This obstructs the ability to trace what went into a decision, which in turn is a prerequisite to any attempt of reconstructing a responsibility chain. Specifically, such traceability is linked to a documentation that will stand up in court when determining the cause of some AI-based decision that inadvertently or intentionally violates the law. This paper takes a radical, yet practical, approach to this problem, by enforcing the documentation of each and every component that goes into the training or inference of an automated decision. As such, it presents the first running workflow supporting the generation of tamper-proof, verifiable and exhaustive traces of AI decisions. In doing so, we expand the DBOM concept into an effective running workflow leveraging confidential computing technology. We demonstrate the inner workings of the workflow in the development of an app to tell poisonous and edible mushrooms apart, meant as a playful example of high-stake decision support.
• Abstract（参考訳）: 脆弱な人工知能技術を用いた自動化システムによって、ますます多くのハイテイクな決定が下されるか、支援される。 これらの決定のいくつかは、幸福や基本的人権を侵害することにより、人々に害をもたらす大きなリスクがある。 AIシステムの最先端技術は、意思決定プロセスの適切なドキュメントに関してほとんど努力していません。 これは、意思決定に何が起きたかを追跡する能力を妨げるもので、結果的に、責任連鎖を再構築する試みの前提条件となります。 具体的には、そのようなトレーサビリティは、故意または故意に法律に違反しているAIベースの決定の原因を決定する際に法廷で立ち上がる文書に関連付けられている。 本稿では、自動化された意思決定のトレーニングや推論に進む各コンポーネントのドキュメンテーションを強制することによって、この問題に対して急進的で実践的なアプローチをとる。 このようにして、AI決定の改ざん、検証可能、徹底的なトレースの生成をサポートする最初の実行ワークフローを提示します。 そこで我々は,DBOMの概念を,機密計算技術を活用した効率的な実行ワークフローへと拡張する。 本研究では,キノコと食用キノコを別々に区別するアプリの開発において,ワークフローの内部動作を実証する。

関連論文リスト

• Barbarians at the Gate: How AI is Upending Systems Research [58.95406995634148]
  システム研究は、新しいパフォーマンス指向アルゴリズムの設計と評価に長年注力してきたが、AI駆動のソリューション発見には特に適している、と私たちは主張する。 このアプローチをAI駆動システム研究(ADRS)と呼び、ソリューションを反復的に生成し、評価し、洗練する。 我々の研究結果は、AI時代のシステム研究の実践に急激な適応の必要性と破壊的な可能性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2025-10-07T17:49:24Z)
• Combining AI Control Systems and Human Decision Support via Robustness and Criticality [53.10194953873209]
  我々は、逆説(AE)の方法論を最先端の強化学習フレームワークに拡張する。 学習したAI制御システムは、敵のタンパリングに対する堅牢性を示す。 トレーニング/学習フレームワークでは、この技術は人間のインタラクションを通じてAIの決定と説明の両方を改善することができる。
  論文  参考訳（メタデータ） (2024-07-03T15:38:57Z)
• A Path Towards Legal Autonomy: An interoperable and explainable approach to extracting, transforming, loading and computing legal information using large language models, expert systems and Bayesian networks [2.2192488799070444]
  法的な自律性は、開発者やデプロイ者、ユーザといったAIアクターに制約を課すこと、あるいはAIエージェントが環境に与える影響の範囲と範囲に制約を課すことによって達成できる。 後者のアプローチでは、AI駆動デバイスに関する既存のルールを、それらのデバイスを制御するAIエージェントのソフトウェアにエンコードする。 このようなアプローチの有効性は、説明可能かつ法的に相互運用可能な法的情報を抽出、ロード、変換、計算する手法を必要とするため、これは課題である。
  論文  参考訳（メタデータ） (2024-03-27T13:12:57Z)
• Seamful XAI: Operationalizing Seamful Design in Explainable AI [59.89011292395202]
  AIシステムのミスは必然的であり、技術的制限と社会技術的ギャップの両方から生じる。 本稿では, 社会工学的・インフラ的ミスマッチを明らかにすることにより, シームレスな設計がAIの説明可能性を高めることを提案する。 43人のAI実践者と実際のエンドユーザでこのプロセスを探求します。
  論文  参考訳（メタデータ） (2022-11-12T21:54:05Z)
• Unfooling Perturbation-Based Post Hoc Explainers [12.599362066650842]
  最近の研究は、摂動に基づくポストホックの説明を逆さまに騙すことが実証されている。 この発見は監査人、規制当局、その他のセンチネルに悪影響を及ぼす。 本研究では,この問題を厳格に定式化し,摂動型説明器に対する敵攻撃に対する防御策を考案する。
  論文  参考訳（メタデータ） (2022-05-29T21:28:12Z)
• Inverse Online Learning: Understanding Non-Stationary and Reactionary Policies [79.60322329952453]
  エージェントが意思決定を行う方法の解釈可能な表現を開発する方法を示す。 一連の軌跡に基づく意思決定プロセスを理解することにより,このオンライン学習問題に対して,政策推論問題を逆問題とみなした。 本稿では、エージェントがそれらを更新するプロセスと並行して、その影響を遡及的に推定する実用的なアルゴリズムを提案する。 UNOSの臓器提供受諾決定の分析に応用することで、我々のアプローチは意思決定プロセスを管理する要因や時間とともにどのように変化するかに、貴重な洞察をもたらすことができることを実証する。
  論文  参考訳（メタデータ） (2022-03-14T17:40:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。