論文の概要: LAAF: A Layered Accountability Architecture Framework for LLM Applications
- arxiv url: http://arxiv.org/abs/2608.27102v1
- Date: Thu, 27 Aug 2026 13:18:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-28 16:30:58.413714
- Title: LAAF: A Layered Accountability Architecture Framework for LLM Applications
- Title(参考訳): LAAF: LLMアプリケーションのための階層型アカウンタビリティアーキテクチャフレームワーク
- Abstract要約: 大規模言語モデル(LLM)は、病院、法廷、銀行、公共サービスデスクで運用されており、流動的で自信のある出力は、根拠のない、または正しくない場合でも権威あるものとして扱われる。
本稿では,5次元に分解されたアクターとフォーラムの関係として,説明責任の社会技術的説明を統合する。
コーパスは、出所、アプリケーションロジック、ヒューマン監視、ガバナンスとリフレッシュにまたがる4層分類デバイスを通じて読み込まれる。
- 参考スコア(独自算出の注目度): 11.15280916125281
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large Language Models (LLMs) operate in hospitals, courtrooms, banks, and public service desks, where fluent, confident outputs are treated as authoritative even when ungrounded or incorrect. When such an output contributes to harm, who is answerable, and through what mechanisms can responsibility be traced, explained, and acted upon? Following PRISMA guidance, five databases were searched from January 2022 to March 2026 against four review questions; of 4,512 records identified, 122 primary studies were included, together with 12 regulatory and standards documents analysed as primary sources. The review consolidates a sociotechnical account of accountability as an actor-forum relation resolved into five dimensions, and synthesises mechanisms across four families: technical controls, human oversight, organisational governance, and documentation and traceability, each with a maturity assessment. The corpus is read through a four-layer classification device spanning provenance, application logic, human oversight, and governance and redress, cross-cut by traceability, role clarity, and continuous monitoring. Both are mapped onto the EU AI Act, whose high-risk obligations have applied since 2 August 2026, the NIST AI RMF with its Generative AI Profile, ISO/IEC 42001, and sectoral guidance in healthcare, consumer finance, education, and the public sector. Four persistent gaps emerge: under-specification of human oversight, absence of shared accountability metrics, disciplinary disconnection, and limited empirical evaluation, alongside five structural tensions that no surveyed instrument resolves. The review closes by consolidating the classification device into an integrated accountability architecture, LAAF, with cybersecurity aligned to the OWASP LLM Top 10 (2025); it is a synthesis of the surveyed evidence rather than a validated artefact.
- Abstract(参考訳): 大規模言語モデル(LLM)は、病院、法廷、銀行、公共サービスデスクで運用されており、流動的で自信のある出力は、根拠のない、または正しくない場合でも権威あるものとして扱われる。
そのようなアウトプットが害に寄与し、誰が答えることができ、どんなメカニズムで責任を追及し、説明し、実行できますか?
PRISMAのガイダンスに従って、2022年1月から2026年3月まで、5つのデータベースが4つのレビュー質問に対して検索され、4,512のレコードが特定され、122の一次研究と12の規制および標準文書が一次資料として分析された。
このレビューは、アクターとフォーラムの関係を5つの次元に分解した社会技術的説明と、技術的コントロール、人間の監督、組織的ガバナンス、ドキュメントとトレーサビリティの4つのファミリーにまたがる合成メカニズムを統合する。
コーパスは、証明、アプリケーションロジック、ヒューマン監視、ガバナンスとリフレッシュ、トレーサビリティによる横断的トレーサビリティ、ロールの明確性、継続的な監視にまたがる4層分類デバイスを通じて読み込まれる。
どちらも、2026年8月2日から高リスク義務が適用されるEU AI Act、NIST AI RMFのジェネレーティブAIプロファイル、ISO/IEC 42001、医療、消費者金融、教育、公共部門におけるセクターガイダンスにマップされている。
人間の監督の過度な特定、説明責任の共有の欠如、懲戒的断絶、限定的な経験的評価の4つと、調査された機器が解決しない5つの構造的緊張の4つがある。
このレビューは、分類装置を統合された説明責任アーキテクチャ(LAAF)に統合し、OWASP LLM Top 10(2025年)に沿ったサイバーセキュリティを備えることで終了する。
関連論文リスト
- Governing at Machine Speed: An Adaptive Intelligence Architecture for Real-Time AI Policy Enforcement [0.0]
エンタープライズAIの採用は世界中の組織の78%に達しているが、その採用を管理するインフラストラクチャはペースを保っていない。
我々は、リアルタイムAIガバナンスの実施に機械学習を使用するように設計された概念的な5層アーキテクチャであるAGILを提案する。
論文 参考訳(メタデータ) (2026-09-11T19:35:00Z) - No One to Blame: A Framework of Constitutive AI Unaccountability [2.665734616339289]
アクター、システム、機関の構成によって、AIの説明責任は、努力に関係なく概念上は達成不可能である、と我々は主張する。
これらの構成を捉えるために、AIの非アカウンタビリティの概念を導入します。
論文 参考訳(メタデータ) (2026-08-12T14:25:05Z) - From Interpretability to Control: Insights from Six Years of the TrustNLP Workshop [63.00693129203923]
The Workshop on Trustworthy Natural Language Processingは8つの論文から6つのエディションで41に成長した。
我々は、144の手続き書類から洞察を合成し、確立されたフレームワークに根ざした6つの信頼次元に沿ってそれらを分類する。
分類研究による分析によると、真理は最も成長の早い次元である(2021-2022年、2025-2026年までに論文の37%を占める)。
論文 参考訳(メタデータ) (2026-08-11T17:30:16Z) - CEDAR-42001: From ISO/IEC 42001 Conformity to Architecture-Aware, Audit-Visible Assurance Posture for AI Cyber-Physical Systems [25.852577434268273]
本報告では,ISO/IEC 42001監査証拠を,監査記録にトレース可能なアーキテクチャ対応保証姿勢に変換する2段階の手法を提案する。
CEDAR-42001は、エクスプロイラビリティを見積もったり、技術的CPSセキュリティテストを置き換えたりしない。
論文 参考訳(メタデータ) (2026-06-19T09:50:04Z) - Definitional alignment before capability alignment: a Design-Science framework for adjudicating claims about AGI [0.0]
AGIは単一の共有かつ安定した参照がなく、競合するオペレーティングは同一システム上で異なる検証を返すことができる。
この記事では、設計とガバナンスの問題として、その過小評価を扱います。
論文 参考訳(メタデータ) (2026-06-10T22:04:56Z) - ScientistOne: Towards Human-Level Autonomous Research via Chain-of-Evidence [57.37494162084001]
チェーン・オブ・エビデンス(Chain-of-Evidence, CoE)は、すべてのクレームがエビデンス・ソースにトレース可能であることを要求する検証可能なフレームワークである。
CoE Auditはポストホック監査であり、スコア検証、仕様違反、参照検証、メソッドコードアライメントという4つの整合性チェックが全システムに均一に適用される。
論文 参考訳(メタデータ) (2026-05-25T21:30:27Z) - When the Agent Is the Adversary: Architectural Requirements for Agentic AI Containment After the April 2026 Frontier Model Escape [0.0]
本稿では,現在の封じ込めアプローチの4つのカテゴリについて分析する。
公開情報から5つの行動事象を分類し、698件の現実世界のAIスケジュールインシデントに分類する。
論文 参考訳(メタデータ) (2026-04-25T19:41:00Z) - Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications [51.56484100374058]
我々は,エビデンスに基づくリリース決定を伴う品質ゲートを導入する自動自己テストフレームワークを提案する。
内部展開型多エージェント対話型AIシステムの縦型ケーススタディにより,本フレームワークの評価を行った。
論文 参考訳(メタデータ) (2026-03-13T20:44:15Z) - Agents of Chaos [50.53354213047402]
実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。
20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。
我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
論文 参考訳(メタデータ) (2026-02-23T16:28:48Z) - Eigen-1: Adaptive Multi-Agent Refinement with Monitor-Based RAG for Scientific Reasoning [53.45095336430027]
暗黙的な検索と構造化された協調を組み合わせた統合フレームワークを開発する。
Humanity's Last Exam (HLE) Bio/Chem Goldでは,48.3%の精度を実現している。
SuperGPQAとTRQAの結果はドメイン間の堅牢性を確認した。
論文 参考訳(メタデータ) (2025-09-25T14:05:55Z) - AIR-Bench 2024: A Safety Benchmark Based on Risk Categories from Regulations and Policies [80.90138009539004]
AIR-Bench 2024は、新しい政府の規制や企業のポリシーに適合する最初のAI安全ベンチマークである。
8つの政府規制と16の企業政策を4階層の安全分類に分解し、最も低い階層に粒度の細かいリスクカテゴリを分類する。
AIR-Bench 2024上での言語モデルの評価を行い,その安全性に関する知見を明らかにした。
論文 参考訳(メタデータ) (2024-07-11T21:16:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。