論文の概要: TAIBOM: Bringing Trustworthiness to AI-Enabled Systems

• arxiv url: http://arxiv.org/abs/2510.02169v1
• Date: Thu, 02 Oct 2025 16:17:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-03 16:59:21.206335
• Title: TAIBOM: Bringing Trustworthiness to AI-Enabled Systems
• Title（参考訳）: TAIBOM:AIで実現可能なシステムに信頼性をもたらす
• Abstract要約: 透明性とトレーサビリティを高めるために、SBOM(Software Bills of Materials)が重要になっている。 現在のフレームワークは、AIシステムのユニークな特徴を捉えていない。 我々は、SBOMの原則をAIドメインに拡張する新しいフレームワークであるTAIBOM(Trusted AI Bill of Materials)を紹介する。
• 参考スコア（独自算出の注目度）: 0.23332469289621785
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The growing integration of open-source software and AI-driven technologies has introduced new layers of complexity into the software supply chain, challenging existing methods for dependency management and system assurance. While Software Bills of Materials (SBOMs) have become critical for enhancing transparency and traceability, current frameworks fall short in capturing the unique characteristics of AI systems -- namely, their dynamic, data-driven nature and the loosely coupled dependencies across datasets, models, and software components. These challenges are compounded by fragmented governance structures and the lack of robust tools for ensuring integrity, trust, and compliance in AI-enabled environments. In this paper, we introduce Trusted AI Bill of Materials (TAIBOM) -- a novel framework extending SBOM principles to the AI domain. TAIBOM provides (i) a structured dependency model tailored for AI components, (ii) mechanisms for propagating integrity statements across heterogeneous AI pipelines, and (iii) a trust attestation process for verifying component provenance. We demonstrate how TAIBOM supports assurance, security, and compliance across AI workflows, highlighting its advantages over existing standards such as SPDX and CycloneDX. This work lays the foundation for trustworthy and verifiable AI systems through structured software transparency.
• Abstract（参考訳）: オープンソースソフトウェアとAI駆動技術の統合が拡大し、ソフトウェアサプライチェーンに新たな複雑なレイヤを導入し、依存性管理とシステム保証のための既存の手法に挑戦した。 Software Bills of Materials(SBOM)は透明性とトレーサビリティを高めるために重要になっているが、現在のフレームワークでは、AIシステムのユニークな特徴、すなわち、その動的でデータ駆動的な性質と、データセット、モデル、ソフトウェアコンポーネント間の疎結合な依存関係を捉えていない。 これらの課題は、断片化されたガバナンス構造と、AI対応環境における整合性、信頼、コンプライアンスを保証する堅牢なツールの欠如によって複雑化されている。 本稿では、SBOMの原則をAIドメインに拡張する新しいフレームワークであるTAIBOM(Trusted AI Bill of Materials)を紹介する。 TAIBOM i)AIコンポーネントに適した構造化依存モデル。 二 異種AIパイプライン間の整合性ステートメントの伝播機構及び 三 部品証明の検証のための信託証明の方法 我々は、AIワークフロー間の保証、セキュリティ、コンプライアンスをサポートする方法を示し、SPDXやCycloneDXといった既存の標準に対するアドバンテージを強調した。 この研究は、構造化されたソフトウェア透過性を通じて、信頼できる検証可能なAIシステムの基礎を築いた。

関連論文リスト

• Making Embodied AI Reliable: A Community Agenda from Testing to Formal Verification [38.209854965937495]
  Embodied AIシステムは、ますますオープンな環境にデプロイされている。 この記事では、組み込みAIの信頼性は本質的にライフサイクル保証の問題である、と論じる。
  論文  参考訳（メタデータ） (2026-06-02T12:58:40Z)
• Autonomous Systems Dependability in the era of AI: Design Challenges in Safety, Security, Reliability and Certification [4.358009861529629]
  組込み安全クリティカルシステムの設計は、システムの複雑さをエスカレートすることでますます困難になってきている。 従来の信頼性、安全性、セキュリティ管理の方法は、人工知能(AI)と機械学習(ML)によって導入された動的で不確実な振る舞いに対処するのに不足することが多い。 AIとMLは、システムの信頼性を高める強力な予測、適応、自己最適化機能を提供しますが、その固有の非決定性、データ依存性、正式な保証の欠如は、検証、検証、認定のための新たな課題をもたらします。 本稿では,AI時代の信頼性の高い自律型・組み込み型システムを設計するための新しい方法論,アーキテクチャ,フレームワークについて考察する。
  論文  参考訳（メタデータ） (2026-04-30T12:50:29Z)
• Operationalising Artificial Intelligence Bills of Materials (AIBOMs) for Verifiable AI Provenance and Lifecycle Assurance [11.812618112854116]
  本研究では,CycloneDX規格を拡張したAIBOM(Artificial Intelligence Bill of Materials)スキーマを提案する。 自律型AIパイプラインは、継続的環境検査、脆弱性の強化、マシンが検証可能な前兆チェーンを使用した監査を実行するために開発されている。
  論文  参考訳（メタデータ） (2026-03-17T20:45:09Z)
• The PBSAI Governance Ecosystem: A Multi-Agent AI Reference Architecture for Securing Enterprise AI Estates [0.0]
  本稿では,PBSAI(Practitioners Blueprint for Secure AI)ガバナンスエコシステムについて紹介する。 PBSAIは、エンタープライズおよびハイパースケールAIエステートを確保するためのマルチエージェント参照アーキテクチャである。
  論文  参考訳（メタデータ） (2026-02-11T19:21:35Z)
• Towards Verifiably Safe Tool Use for LLM Agents [53.55621104327779]
  大規模言語モデル(LLM)ベースのAIエージェントは、データソース、API、検索エンジン、コードサンドボックス、さらにはその他のエージェントなどのツールへのアクセスを可能にすることで、機能を拡張する。 LLMは意図しないツールインタラクションを起動し、機密データを漏洩したり、クリティカルレコードを上書きしたりするリスクを発生させる。 モデルベースセーフガードのようなリスクを軽減するための現在のアプローチは、エージェントの信頼性を高めるが、システムの安全性を保証することはできない。
  論文  参考訳（メタデータ） (2026-01-12T21:31:38Z)
• AI Bill of Materials and Beyond: Systematizing Security Assurance through the AI Risk Scanning (AIRS) Framework [31.261980405052938]
  人工知能(AI)システムの保証は、ソフトウェアサプライチェーンセキュリティ、敵機械学習、ガバナンスドキュメントに分散している。 本稿では,AI保証の運用を目的とした脅威モデルに基づくエビデンス発生フレームワークであるAI Risk Scanning(AIRS)フレームワークを紹介する。
  論文  参考訳（メタデータ） (2025-11-16T16:10:38Z)
• Safe and Certifiable AI Systems: Concepts, Challenges, and Lessons Learned [45.44933002008943]
  この白書は、T"UV AUSTRIA Trusted AIフレームワークを提示する。 エンド・ツー・エンドの監査カタログであり、機械学習システムの評価と認定のための方法論である。 セキュアなソフトウェア開発、機能要件、倫理とデータプライバシという3つの柱の上に構築されているのは、EU AI Actの高レベルの義務を、特定かつテスト可能な基準に翻訳するものです。
  論文  参考訳（メタデータ） (2025-09-08T17:52:08Z)
• Rethinking Autonomy: Preventing Failures in AI-Driven Software Engineering [1.6766200616088744]
  SAFE-AI Frameworkは、安全性、監査可能性、フィードバック、説明可能性を強調した総合的なアプローチである。 我々は、リスク評価と監視を導くために、提案的、生成的、自律的、破壊的なアクションを分類する、AI行動の新しい分類法を導入する。 この記事では、EU AI ActやカナダのAIDAといった新たな規則に沿って、ソフトウェアエンジニアリングにおける責任あるAI統合のためのロードマップを提供する。
  論文  参考訳（メタデータ） (2025-08-15T22:13:54Z)
• Rethinking Data Protection in the (Generative) Artificial Intelligence Era [138.07763415496288]
  現代の(生産的な)AIモデルやシステムに生じる多様な保護ニーズを捉える4段階の分類法を提案する。 当社のフレームワークは、データユーティリティとコントロールのトレードオフに関する構造化された理解を提供し、AIパイプライン全体にわたっています。
  論文  参考訳（メタデータ） (2025-07-03T02:45:51Z)
• Zero-Trust Foundation Models: A New Paradigm for Secure and Collaborative Artificial Intelligence for Internet of Things [61.43014629640404]
  Zero-Trust Foundation Models (ZTFM)は、ゼロトラストセキュリティの原則をIoT(Internet of Things)システムの基盤モデル(FM)のライフサイクルに組み込む。 ZTFMは、分散、異質、潜在的に敵対的なIoT環境にわたって、セキュアでプライバシ保護のAIを可能にする。
  論文  参考訳（メタデータ） (2025-05-26T06:44:31Z)
• Meta-Sealing: A Revolutionizing Integrity Assurance Protocol for Transparent, Tamper-Proof, and Trustworthy AI System [0.0]
  この研究は、AIシステムの整合性検証を根本的に変更する暗号フレームワークであるMeta-Sealingを紹介する。 このフレームワークは、高度な暗号と分散検証を組み合わせることで、数学的厳密さと計算効率の両方を達成する、暗黙の保証を提供する。
  論文  参考訳（メタデータ） (2024-10-31T15:31:22Z)
• Towards a Responsible AI Metrics Catalogue: A Collection of Metrics for AI Accountability [28.67753149592534]
  本研究は,包括的メトリクスカタログへの取り組みを導入することで,説明責任のギャップを埋めるものである。 我々のカタログは、手続き的整合性を支えるプロセスメトリクス、必要なツールやフレームワークを提供するリソースメトリクス、AIシステムのアウトプットを反映する製品メトリクスを記述しています。
  論文  参考訳（メタデータ） (2023-11-22T04:43:16Z)
• Trust in Software Supply Chains: Blockchain-Enabled SBOM and the AIBOM Future [28.67753149592534]
  本研究では、SBOM共有のためのブロックチェーンを活用したアーキテクチャを導入し、検証可能な認証情報を活用して、選択的な開示を可能にする。 本稿では、AIシステムを含むSBOMの限界を広げ、AI Bill of Materials(AIBOM)という用語を創出する。
  論文  参考訳（メタデータ） (2023-07-05T07:56:48Z)
• AI Maintenance: A Robustness Perspective [91.28724422822003]
  我々は、AIライフサイクルにおけるロバストネスの課題を強調し、自動車のメンテナンスに類似させることで、AIのメンテナンスを動機付ける。 本稿では,ロバストネスリスクの検出と軽減を目的としたAIモデル検査フレームワークを提案する。 我々のAIメンテナンスの提案は、AIライフサイクル全体を通して堅牢性評価、状態追跡、リスクスキャン、モデル硬化、規制を促進する。
  論文  参考訳（メタデータ） (2023-01-08T15:02:38Z)
• Trustworthy AI: From Principles to Practices [44.67324097900778]
  多くの現在のAIシステムは、認識不能な攻撃に脆弱で、表現不足なグループに偏り、ユーザのプライバシ保護が欠如していることが判明した。 このレビューでは、信頼できるAIシステムを構築するための包括的なガイドとして、AI実践者に提供したいと思っています。 信頼に値するAIに対する現在の断片化されたアプローチを統合するために、AIシステムのライフサイクル全体を考慮した体系的なアプローチを提案する。
  論文  参考訳（メタデータ） (2021-10-04T03:20:39Z)
• Trustworthy AI [75.99046162669997]
  入力データの小さな敵対的変化への脆さ、決定の説明能力、トレーニングデータのバイアスに対処する能力は、最も顕著な制限である。 我々は,AIシステムに対するユーザおよび公的な信頼を高める上での6つの重要な問題に対処するために,信頼に値するAIに関するチュートリアルを提案する。
  論文  参考訳（メタデータ） (2020-11-02T20:04:18Z)
• Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims [59.64274607533249]
  AI開発者は、責任を負うことのできる検証可能な主張をする必要がある。 このレポートは、さまざまな利害関係者がAIシステムに関するクレームの妥当性を改善するための様々なステップを示唆している。 我々は、この目的のための10のメカニズム、すなわち、組織、ソフトウェア、ハードウェアを分析し、それらのメカニズムの実装、探索、改善を目的とした推奨を行う。
  論文  参考訳（メタデータ） (2020-04-15T17:15:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。