論文の概要: From Obligation to Specification: A Survey on Validating EU AI Act Requirements in RE
- arxiv url: http://arxiv.org/abs/2607.21608v1
- Date: Mon, 18 May 2026 13:02:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-02 22:55:38.937824
- Title: From Obligation to Specification: A Survey on Validating EU AI Act Requirements in RE
- Title（参考訳）: 義務から仕様へ:REにおけるEU AI法要件の検証に関する調査
- Abstract要約: EUのAI法が施行されるにつれ、AIシステムの開発や運用を行う組織は、透明性、リスク管理、トレーサビリティに対する新たな義務に直面している。
要件工学(RE)では、これらの義務は、検証可能な、監査可能な要件と検証可能な証拠に変換されなければならない。
本稿では、EU AI Act-oriented REの組織的準備性を評価するための混合手法探索的研究について述べる。
- 参考スコア（独自算出の注目度）: 1.2832858109291985
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: With the EU AI Act entering into force, organizations developing or operating AI systems face new obligations on transparency, risk management, and traceability. For Requirements Engineering (RE), these obligations must be translated into testable, auditable requirements and verifiable evidence. However, many organizations currently lack systematic processes to achieve this. We hypothesize that LLM-based agentic validation tools can support this translation, thereby helping to close this gap. We present a mixed-method exploratory study with expert interviews (N=10) and an online survey (N=15) to assess organizational preparedness for EU AI Act-oriented RE and perceptions of LLM-based, agentic closed-loop validation tools, with participants spanning RE, data science, development, and compliance roles. Our results show that, although the EU AI Act is viewed as highly relevant, structured mechanisms to capture regulatory obligations, propagate updates into projects, and maintain lifecycle-wide traceability and evidence are often missing. Participants see LLM-based tools as promising for mapping obligations to requirements, assessing coverage, and organizing evidence, but express strong concerns about full automation and stress the need for safeguards. Based on these findings, we outline minimum requirements for an EU AI Act-ready closed-loop approach.
- Abstract（参考訳）: EUのAI法が施行されるにつれ、AIシステムの開発や運用を行う組織は、透明性、リスク管理、トレーサビリティに対する新たな義務に直面している。
要件工学(RE)では、これらの義務は、検証可能な、監査可能な要件と検証可能な証拠に変換されなければならない。
しかし、現在多くの組織では、これを実現するための体系的なプロセスが欠如している。
LLMベースのエージェント検証ツールがこの翻訳をサポートすることができると仮定し、このギャップを埋めるのに役立ちます。
我々は、専門家インタビュー(N=10)とオンライン調査(N=15)を併用して、EU AIアクト指向REの組織的準備性とLLMベースのエージェントクローズループ検証ツールの認識を評価する。
我々の結果は、EUのAI法は極めて関連性が高いものの、規制義務を捉え、プロジェクトの更新を伝達し、ライフサイクル全体のトレーサビリティとエビデンスを維持するための構造化されたメカニズムが欠落していることを示している。
参加者は、LCMベースのツールは、要件へのマッピング義務、カバレッジの評価、証拠の整理を約束するものだと考えているが、完全な自動化とセーフガードの必要性の強調について強い懸念を表明している。
これらの知見に基づいて、EU AI Act対応クローズドループアプローチの最低要件を概説する。
関連論文リスト
- Operationalizing the EU AI Act in Agile Software Development: A Guideline-Based Approach [4.908297240926983]
EU AI Actは、ドキュメンテーション、リスク管理、ヒューマン監視を実装するために、人工知能(AI)システムのプロバイダとデプロイ者に要求する。
この研究は、既存のアジャイルプラクティスに統合可能なアクティビティとして、EU AI Actの義務を運用する評価ガイドラインを提供する。
論文 参考訳（メタデータ） (2026-08-17T13:07:30Z) - Towards Verifiably Safe Tool Use for LLM Agents [53.55621104327779]
大規模言語モデル(LLM)ベースのAIエージェントは、データソース、API、検索エンジン、コードサンドボックス、さらにはその他のエージェントなどのツールへのアクセスを可能にすることで、機能を拡張する。
LLMは意図しないツールインタラクションを起動し、機密データを漏洩したり、クリティカルレコードを上書きしたりするリスクを発生させる。
モデルベースセーフガードのようなリスクを軽減するための現在のアプローチは、エージェントの信頼性を高めるが、システムの安全性を保証することはできない。
論文 参考訳（メタデータ） (2026-01-12T21:31:38Z) - "Show Me You Comply... Without Showing Me Anything": Zero-Knowledge Software Auditing for AI-Enabled Systems [2.2981698355892686]
本稿では,新しいMLOps検証フレームワークであるZKMLOpsを紹介する。
ZKP(Zero-Knowledge Proofs)暗号プロトコルを運用し、証明者が証明者に対して、文が真実であることを納得させることができる。
我々は、金融リスク監査における規制コンプライアンスの研究を通じて、この枠組みの実践性を評価する。
論文 参考訳（メタデータ） (2025-10-30T15:03:32Z) - Veri-R1: Toward Precise and Faithful Claim Verification via Online Reinforcement Learning [53.05161493434908]
大規模言語モデル(LLM)によるクレーム検証は、その強力な推論能力と透過的な検証プロセスのため、近年注目を集めている。
我々は、LLMが検索エンジンと対話し、その計画、検索、推論行動を明確に形作る報酬信号を受け取ることができるオンライン強化学習フレームワークであるVeri-R1を紹介した。
実験の結果、Veri-R1は最大30%の精度で関節の精度を向上し、エビデンススコアを2倍にし、より大きなモデルを上回ることが示されている。
論文 参考訳（メタデータ） (2025-10-02T11:49:48Z) - Safe and Certifiable AI Systems: Concepts, Challenges, and Lessons Learned [45.44933002008943]
この白書は、T"UV AUSTRIA Trusted AIフレームワークを提示する。
エンド・ツー・エンドの監査カタログであり、機械学習システムの評価と認定のための方法論である。
セキュアなソフトウェア開発、機能要件、倫理とデータプライバシという3つの柱の上に構築されているのは、EU AI Actの高レベルの義務を、特定かつテスト可能な基準に翻訳するものです。
論文 参考訳（メタデータ） (2025-09-08T17:52:08Z) - Engineering Trustworthy Machine-Learning Operations with Zero-Knowledge Proofs [1.7723990552388873]
Zero-Knowledge Proofs (ZKPs) は、検証済みの計算を通じて、機密性の高いモデルの詳細やデータを明らかにすることなく、要求の遵守を証明できる暗号化ソリューションを提供する。
我々は、AI検証と検証パイプラインにおけるアプリケーションに不可欠な5つの重要な特性(非対話性、透過的なセットアップ、標準表現、簡潔性、および後セキュリティ)を特定します。
論文 参考訳（メタデータ） (2025-05-26T15:39:11Z) - SOPBench: Evaluating Language Agents at Following Standard Operating Procedures and Constraints [59.645885492637845]
SOPBenchは、各サービス固有のSOPコードプログラムを実行可能な関数の有向グラフに変換する評価パイプラインである。
提案手法では,各サービス固有のSOPコードプログラムを実行可能関数の有向グラフに変換し,自然言語SOP記述に基づいてこれらの関数を呼び出しなければならない。
我々は18の先行モデルを評価し、上位モデルでさえタスクが困難であることを示す。
論文 参考訳（メタデータ） (2025-03-11T17:53:02Z) - COMPL-AI Framework: A Technical Interpretation and LLM Benchmarking Suite for the EU Artificial Intelligence Act [40.233017376716305]
EUの人工知能法(AI Act)は、AI開発の責任を負うための重要なステップである。
明確な技術的解釈がなく、モデルのコンプライアンスを評価するのが難しい。
この研究は、この法律の最初の技術的解釈からなる包括的枠組みであるComple-AIを提示する。
論文 参考訳（メタデータ） (2024-10-10T14:23:51Z) - Knowledge-Augmented Reasoning for EUAIA Compliance and Adversarial Robustness of LLMs [1.368472250332885]
EUAIA(EU AI Act)は、敵の堅牢性を確立するために必要なプロセスと交差するAIシステムの要件を導入している。
本稿では,2つの特性をブリッジする機能アーキテクチャを提案する。
我々は,知識強化に基づく推論レイヤで開発者と監査者を支援することを目的としている。
論文 参考訳（メタデータ） (2024-10-04T18:23:14Z) - RIRAG: Regulatory Information Retrieval and Answer Generation [51.998738311700095]
本稿では,質問を自動生成し,関連する規制通路と組み合わせる,問合せペアを生成するタスクを紹介する。
我々は、Abu Dhabi Global Markets (ADGM) の財務規制文書から得られた27,869の質問を含むObliQAデータセットを作成する。
本稿では,RIRAG(Regulation Information Retrieval and Answer Generation)システムをベースラインとして設計し,新しい評価基準であるRePASを用いて評価する。
論文 参考訳（メタデータ） (2024-09-09T14:44:19Z) - Towards Generating Executable Metamorphic Relations Using Large Language Models [46.26208489175692]
大規模言語モデル(LLM)を用いた要件から実行可能なMRを自動的に抽出する手法を提案する。
提案手法の有効性を評価するため,シーメンス・インダストリー・ソフトウェアと共同で質問紙調査を行った。
論文 参考訳（メタデータ） (2024-01-30T13:52:47Z) - The risks of risk-based AI regulation: taking liability seriously [46.90451304069951]
AIの開発と規制は、重要な段階に達したようだ。
一部の専門家は、GPT-4よりも強力なAIシステムのトレーニングに関するモラトリアムを求めている。
本稿では、最も先進的な法的提案である欧州連合のAI法について分析する。
論文 参考訳（メタデータ） (2023-11-03T12:51:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。