論文の概要: IntelliAudit: Using Large Language Models to Evaluate Audit Controls
- arxiv url: http://arxiv.org/abs/2608.07688v1
- Date: Fri, 07 Aug 2026 18:21:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 19:16:36.476644
- Title: IntelliAudit: Using Large Language Models to Evaluate Audit Controls
- Title(参考訳): IntelliAudit: 大規模言語モデルによる監査制御の評価
- Abstract要約: 本稿では,IT監査エビデンス評価のための検索型マルチエージェントシステムIntelliAuditを提案する。
コントロールとエビデンスコーパスが与えられ、IntelliAuditは関連するアーティファクトを取得し、エビデンスに基づく評価を生成する。
専門家レビューと監査対応ユーザフィードバックを用いて,複数のシミュレーション組織を対象に評価を行った。
- 参考スコア(独自算出の注目度): 0.1759008116536278
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: IT audits require auditors to judge whether heterogeneous organizational evidence satisfies semantic security and compliance controls. This judgment is difficult to automate because relevant evidence is distributed across policies, records, spreadsheets, and operational artifacts, and because audit conclusions depend on evidentiary sufficiency rather than keyword matching. We present IntelliAudit, a retrieval-grounded multi-agent system for IT audit evidence evaluation. Given a control and an evidence corpus, IntelliAudit retrieves relevant artifacts, generates an evidence-grounded assessment, challenges adverse findings, adjudicates disagreements, and produces an auditor-facing recommendation with cited evidence, rationale, missing-evidence analysis, and remediation guidance. We instantiate IntelliAudit on ISO/IEC 27001 and evaluate it across multiple simulated organizations using expert auditor review and audit-readiness user feedback. The evaluation shows that IntelliAudit can support control interpretation, evidence-grounded reasoning, and audit-preparation workflows, while also revealing the importance of human oversight for calibrating sufficiency judgments and correcting overly permissive recommendations. These results suggest that retrieval-grounded multi-agent systems can assist audit evidence review, but should remain decision-support tools rather than autonomous certification systems.
- Abstract(参考訳): IT監査は、不均一な組織的証拠がセマンティック・セキュリティとコンプライアンス・コントロールを満たすかどうかを監査者に判断することを要求する。
この判断は、関連する証拠がポリシー、レコード、スプレッドシート、運用成果物に分散しているため、また監査の結論がキーワードマッチングよりも明らかな充足に依存するため、自動化が困難である。
本稿では,IT監査エビデンス評価のための検索型マルチエージェントシステムIntelliAuditを提案する。
コントロールとエビデンスコーパスが与えられた場合、IntelliAuditは関連するアーティファクトを検索し、エビデンスに基づく評価、有害な発見への挑戦、不一致を判断し、引用されたエビデンス、合理性、欠落したエビデンス分析、修正ガイダンスを備えた監査役向けのレコメンデーションを生成する。
ISO/IEC 27001上でIntelliAuditをインスタンス化し、専門家による監査者レビューと監査対応ユーザフィードバックを用いて、複数のシミュレーション組織にわたって評価する。
評価の結果、IntelliAuditは制御解釈、エビデンス・グラウンドド・推論、監査準備ワークフローをサポートしつつ、十分な判断の調整と過剰な寛容な勧告の修正に人的監督が重要であることが明らかになった。
これらの結果から, 自動認証システムではなく, 意思決定支援ツールに留まることが示唆された。
関連論文リスト
- VERA-8B: Evidence-Grounded Audit Risk Reasoning from SEC Filings [0.6445605125467574]
我々は,新しいエンド・ツー・エンド監査推論システムであるVERA-8Bを開発した。
VERA-8Bは、実施行動が起こる前に監査リスクを特定する。
SFTとGRPOをエビデンス・グラウンド・オーディエンス・アソシエーションで統合した最初の企業です。
論文 参考訳(メタデータ) (2026-08-28T14:55:49Z) - From Trajectories to Evidence: Auditable Experimental Records for Industrial Research Agents [47.678562263387214]
研究エージェントは、産業レコメンデーション設定において、多段階の機械学習実験をますます実施している。
生成されたアーティファクトは、サポートされないか、不完全かもしれないし、実行されたラウンドは無効かもしれないし、あるいは廃止されるかもしれないし、後の修正は、以前の発見を曖昧にするかもしれない。
本稿では,連続的アーティファクトのバウンダリ検証と実行後のクレーム資格を結合するエビデンス・グラウンド・フレームワークを提案する。
論文 参考訳(メタデータ) (2026-08-05T13:37:38Z) - Manipulation-Proof Oblivious Audits against Deceptive Model Providers [4.614773550999029]
規制の文脈では、監査は通常、宣言または容易に検出され、モデルプロバイダがプロセスを操作することができる。
この脆弱性は、フェアネス評価の文脈では特に深刻である。
本稿では,このような操作の聴取後検出可能性を大幅に向上する新しい監査プロトコルを提案する。
論文 参考訳(メタデータ) (2026-08-05T02:12:54Z) - Time to REFLECT: Can We Trust LLM Judges for Evidence-based Research Agents? [61.49434544687523]
本稿では,エージェント環境におけるきめ細かい故障検出を目的としたメタ評価ベンチマークREFLECTを紹介する。
REFLECTはプロセスレベルの障害モードと結果レベルの障害モードの詳細な分類を定義し、制御および局所的な介入を実行することでインスタンス化する。
私たちの実験では、最高のパフォーマンスモデルでさえ、推論、ツール使用、レポート品質の失敗に対して、全体的なアキュラシーを55%以下に達成しています。
論文 参考訳(メタデータ) (2026-05-18T23:55:08Z) - Making AI-Assisted Grant Evaluation Auditable without Exposing the Model [0.0]
本稿では,遠隔検定による要求の整合を支援するTEEアーキテクチャを提案する。
このアーキテクチャにより、外部検証者はどのモデル、ルーブリック、プロンプトテンプレート、入力表現が使われたかをチェックすることができる。
我々は、秘密のAI推論、証明可能なAI監査、ゼロ知識機械学習、アルゴリズムのアカウンタビリティ、AI支援ピアレビューに対する設計を位置付ける。
論文 参考訳(メタデータ) (2026-04-28T04:10:04Z) - When AI reviews science: Can we trust the referee? [73.47745294608072]
私たちは、トレーニングとデータ検索、デスクレビュー、深いレビュー、反論、システムレベルといった、レビューライフサイクル全体のアタックをマップします。
評価スコアに高名度フレーミング, 断定力, 反抗薬効, 文脈中毒の因果効果を分離するために, 2つの高度なLCMベースの審判を用いた。
論文 参考訳(メタデータ) (2026-04-26T08:03:32Z) - DeepFact: Co-Evolving Benchmarks and Agents for Deep Research Factuality [49.62610727661819]
既存のファクトチェッカーは主に汎用ドメイン、ファクトイドスタイルの原子クレーム用に設計されている。
本稿では,ベンチマークラベルと有理値が明示的に変更可能なAudit-then-Score (AtS)を提案する。
我々は、AtSを、監査可能な有理量を持つDRR事実性ベンチマークであるDeepFact-Benchとしてインスタンス化する。
論文 参考訳(メタデータ) (2026-03-06T05:05:57Z) - Preventing the Collapse of Peer Review Requires Verification-First AI [49.995126139461085]
我々は、真理結合、すなわち、過度に科学的真理をトラックする場所のスコアの厳密さを提案する。
プロキシ・ソブリン評価に向けた相転移を駆動する2つの力の形式化を行う。
論文 参考訳(メタデータ) (2026-01-23T17:17:32Z) - PaperAudit-Bench: Benchmarking Error Detection in Research Papers for Critical Automated Peer Review [54.141490756509306]
本稿では、エラーデータセットであるPaperAudit-Datasetと、自動レビューフレームワークであるPaperAudit-Reviewの2つのコンポーネントからなるPaperAudit-Benchを紹介する。
PaperAudit-Benchの実験では、モデルと検出深さの誤差検出可能性に大きなばらつきが示された。
本研究では,SFTおよびRLによる軽量LLM検出器のトレーニングをサポートし,計算コストの削減による効率的な誤り検出を実現する。
論文 参考訳(メタデータ) (2026-01-07T04:26:12Z) - Assessing the Auditability of AI-integrating Systems: A Framework and Learning Analytics Case Study [0.0]
監査の有効性は,監査システムの監査可能性に左右される。
本稿では,AI統合システムの監査性を評価するためのフレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-29T13:43:21Z) - From Transparency to Accountability and Back: A Discussion of Access and Evidence in AI Auditing [1.196505602609637]
監査は、デプロイ前のリスクアセスメント、進行中の監視、コンプライアンステストなど、さまざまな形式で実施することができる。
AI監査には、その実装を複雑にする多くの運用上の課題がある。
我々は、監査は自然な仮説テストとして、並列仮説テストと法的手続きを引き出すことができると論じ、このフレーミングは、監査実施に関する明確かつ解釈可能なガイダンスを提供すると論じる。
論文 参考訳(メタデータ) (2024-10-07T06:15:46Z) - Who Audits the Auditors? Recommendations from a field scan of the
algorithmic auditing ecosystem [0.971392598996499]
AI監査エコシステムの最初の包括的なフィールドスキャンを提供する。
私たちは、新たなベストプラクティスと、一般的になりつつある方法やツールを特定します。
これらの監査の質と影響を改善するための政策勧告を概説する。
論文 参考訳(メタデータ) (2023-10-04T01:40:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。