論文の概要: A Framework for Cryptographic Verifiability of End-to-End AI Pipelines

• arxiv url: http://arxiv.org/abs/2503.22573v1
• Date: Fri, 28 Mar 2025 16:20:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-31 15:31:51.098105
• Title: A Framework for Cryptographic Verifiability of End-to-End AI Pipelines
• Title（参考訳）: エンドツーエンドAIパイプラインの暗号検証のためのフレームワーク
• Authors: Kar Balan, Robert Learney, Tim Wood,
• Abstract要約: 本稿では,AIパイプラインの完全検証,鍵コンポーネントの同定,既存の暗号手法の解析を行うフレームワークを提案する。 このフレームワークは、AI生成資産と共に暗号証明を提供することで、誤情報に対処するために使用することができる。
• 参考スコア（独自算出の注目度）: 0.8075866265341175
• License:
• Abstract: The increasing integration of Artificial Intelligence across multiple industry sectors necessitates robust mechanisms for ensuring transparency, trust, and auditability of its development and deployment. This topic is particularly important in light of recent calls in various jurisdictions to introduce regulation and legislation on AI safety. In this paper, we propose a framework for complete verifiable AI pipelines, identifying key components and analyzing existing cryptographic approaches that contribute to verifiability across different stages of the AI lifecycle, from data sourcing to training, inference, and unlearning. This framework could be used to combat misinformation by providing cryptographic proofs alongside AI-generated assets to allow downstream verification of their provenance and correctness. Our findings underscore the importance of ongoing research to develop cryptographic tools that are not only efficient for isolated AI processes, but that are efficiently `linkable' across different processes within the AI pipeline, to support the development of end-to-end verifiable AI technologies.
• Abstract（参考訳）: 複数の産業分野にまたがる人工知能の統合は、その開発と展開の透明性、信頼性、監査可能性を確保するための堅牢なメカニズムを必要としている。 この話題は、AIの安全性に関する規制と法律を導入する様々な司法管轄区域における近年の要求を踏まえると、特に重要である。 本稿では,AIライフサイクルのさまざまな段階において,データソーシングからトレーニング,推論,未学習に至るまでの検証可能性に寄与する,重要なコンポーネントを特定し,既存の暗号化アプローチを解析する,検証可能なAIパイプラインを完全化するフレームワークを提案する。 このフレームワークは、AI生成資産と共に暗号証明を提供し、その証明と正しさの下流での検証を可能にすることで、誤情報に対処するために使用することができる。 我々の発見は、孤立したAIプロセスに効率的であるだけでなく、AIパイプライン内の異なるプロセス間で効率よく「リンク可能」な暗号化ツールを開発するための継続的な研究の重要性を強調し、エンドツーエンドで検証可能なAI技術の開発を支援している。

関連論文リスト

• Computational Safety for Generative AI: A Signal Processing Perspective [65.268245109828]
  計算安全性は、GenAIにおける安全性の定量的評価、定式化、研究を可能にする数学的枠組みである。 ジェイルブレイクによる悪意のあるプロンプトを検出するために, 感度解析と損失景観解析がいかに有効かを示す。 我々は、AIの安全性における信号処理の鍵となる研究課題、機会、そして重要な役割について論じる。
  論文  参考訳（メタデータ） (2025-02-18T02:26:50Z)
• Meta-Sealing: A Revolutionizing Integrity Assurance Protocol for Transparent, Tamper-Proof, and Trustworthy AI System [0.0]
  この研究は、AIシステムの整合性検証を根本的に変更する暗号フレームワークであるMeta-Sealingを紹介する。 このフレームワークは、高度な暗号と分散検証を組み合わせることで、数学的厳密さと計算効率の両方を達成する、暗黙の保証を提供する。
  論文  参考訳（メタデータ） (2024-10-31T15:31:22Z)
• Generative AI Application for Building Industry [10.154329382433213]
  本稿では,建築産業における生成型AI技術,特に大規模言語モデル(LLM)の変容の可能性について検討する。 この研究は、LLMがいかに労働集約的なプロセスを自動化し、建築プラクティスの効率、正確性、安全性を大幅に改善できるかを強調している。
  論文  参考訳（メタデータ） (2024-10-01T21:59:08Z)
• Data Analysis in the Era of Generative AI [56.44807642944589]
  本稿では,AIを活用したデータ分析ツールの可能性について考察する。 我々は、大規模言語とマルチモーダルモデルの出現が、データ分析ワークフローの様々な段階を強化する新しい機会を提供する方法について検討する。 次に、直感的なインタラクションを促進し、ユーザ信頼を構築し、AI支援分析ワークフローを複数のアプリにわたって合理化するための、人間中心の設計原則を調べます。
  論文  参考訳（メタデータ） (2024-09-27T06:31:03Z)
• Artificial Intelligence as the New Hacker: Developing Agents for Offensive Security [0.0]
  本稿では,人工知能(AI)の攻撃的サイバーセキュリティへの統合について検討する。 サイバー攻撃をシミュレートし実行するために設計された、自律的なAIエージェントであるReaperAIを開発している。 ReaperAIは、セキュリティ脆弱性を自律的に識別し、悪用し、分析する可能性を実証する。
  論文  参考訳（メタデータ） (2024-05-09T18:15:12Z)
• Testing autonomous vehicles and AI: perspectives and challenges from cybersecurity, transparency, robustness and fairness [53.91018508439669]
  この研究は、人工知能を自律走行車(AV)に統合する複雑さを探求する AIコンポーネントがもたらした課題と、テスト手順への影響を調べます。 本稿は、重要な課題を特定し、AV技術におけるAIの研究・開発に向けた今後の方向性を提案する。
  論文  参考訳（メタデータ） (2024-02-21T08:29:42Z)
• Coordinated Flaw Disclosure for AI: Beyond Security Vulnerabilities [1.3225694028747144]
  本稿では,機械学習(ML)問題の複雑度に合わせたコーディネート・フレーバー開示フレームワークを提案する。 本フレームワークは,拡張モデルカード,ダイナミックスコープ拡張,独立適応パネル,自動検証プロセスなどのイノベーションを導入している。 CFDはAIシステムに対する公的な信頼を著しく向上させる可能性があると我々は主張する。
  論文  参考訳（メタデータ） (2024-02-10T20:39:04Z)
• A Vision for Operationalising Diversity and Inclusion in AI [5.4897262701261225]
  本研究は,AIエコシステムにおける多様性と包摂性(D&I)の倫理的命令の運用を想定することを目的とする。 AI開発における重要な課題は、D&Iの原則を効果的に運用することである。 本稿では,ジェネレーティブAI(GenAI)を用いたペルソナシミュレーションを活用したツール開発のためのフレームワークの構想を提案する。
  論文  参考訳（メタデータ） (2023-12-11T02:44:39Z)
• Counterfactual Explanations as Interventions in Latent Space [62.997667081978825]
  反現実的な説明は、望ましい結果を達成するために変更が必要な機能のセットをエンドユーザに提供することを目的としています。 現在のアプローチでは、提案された説明を達成するために必要な行動の実現可能性を考慮することはめったにない。 本稿では,非現実的説明を生成する手法として,潜時空間における干渉としての対実的説明(CEILS)を提案する。
  論文  参考訳（メタデータ） (2021-06-14T20:48:48Z)
• An interdisciplinary conceptual study of Artificial Intelligence (AI) for helping benefit-risk assessment practices: Towards a comprehensive qualification matrix of AI programs and devices (pre-print 2020) [55.41644538483948]
  本稿では,インテリジェンスの概念に対処するさまざまな分野の既存の概念を包括的に分析する。 目的は、AIシステムを評価するための共有概念や相違点を特定することである。
  論文  参考訳（メタデータ） (2021-05-07T12:01:31Z)
• Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims [59.64274607533249]
  AI開発者は、責任を負うことのできる検証可能な主張をする必要がある。 このレポートは、さまざまな利害関係者がAIシステムに関するクレームの妥当性を改善するための様々なステップを示唆している。 我々は、この目的のための10のメカニズム、すなわち、組織、ソフトウェア、ハードウェアを分析し、それらのメカニズムの実装、探索、改善を目的とした推奨を行う。
  論文  参考訳（メタデータ） (2020-04-15T17:15:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。