論文の概要: Chain-of-Authorization: Internalizing Authorization into Large Language Models via Reasoning Trajectories

• arxiv url: http://arxiv.org/abs/2603.22869v1
• Date: Tue, 24 Mar 2026 07:13:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-25 19:53:37.348948
• Title: Chain-of-Authorization: Internalizing Authorization into Large Language Models via Reasoning Trajectories
• Title（参考訳）: Chain-of-Authorization:Reasoning Trajectoriesによる大規模言語モデルへの認証内部化
• Authors: Yang Li, Yule Liu, Xinlei He, Youjian Zhao, Qi Li, Ke Xu,
• Abstract要約: Chain-of-Authorization (CoA)フレームワークは、認証ロジックを大規模言語モデルのコア機能に内部化する。 CoAはポリシー実行とタスク応答を統合し、承認を実体的応答の因果的前提とする。
• 参考スコア（独自算出の注目度）: 21.063230721511726
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) have become core cognitive components in modern artificial intelligence (AI) systems, combining internal knowledge with external context to perform complex tasks. However, LLMs typically treat all accessible data indiscriminately, lacking inherent awareness of knowledge ownership and access boundaries. This deficiency heightens risks of sensitive data leakage and adversarial manipulation, potentially enabling unauthorized system access and severe security crises. Existing protection strategies rely on rigid, uniform defense that prevent dynamic authorization. Structural isolation methods faces scalability bottlenecks, while prompt guidance methods struggle with fine-grained permissions distinctions. Here, we propose the Chain-of-Authorization (CoA) framework, a secure training and reasoning paradigm that internalizes authorization logic into LLMs' core capabilities. Unlike passive external defneses, CoA restructures the model's information flow: it embeds permission context at input and requires generating explicit authorization reasoning trajectory that includes resource review, identity resolution, and decision-making stages before final response. Through supervised fine-tuning on data covering various authorization status, CoA integrates policy execution with task responses, making authorization a causal prerequisite for substantive responses. Extensive evaluations show that CoA not only maintains comparable utility in authorized scenarios but also overcomes the cognitive confusion when permissions mismatches. It exhibits high rejection rates against various unauthorized and adversarial access. This mechanism leverages LLMs' reasoning capability to perform dynamic authorization, using natural language understanding as a proactive security mechanism for deploying reliable LLMs in modern AI systems.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、現代の人工知能(AI)システムにおける中核的な認知要素となり、内部知識と外部コンテキストを組み合わせることで複雑なタスクを実行している。 しかし、LLMは一般的にすべてのアクセス可能なデータを無差別に扱い、知識の所有とアクセス境界に対する固有の認識を欠いている。 この欠陥は、機密データ漏洩と敵の操作のリスクを高め、無許可のシステムアクセスと深刻なセキュリティ危機を可能にする可能性がある。 既存の防御戦略は、ダイナミックな承認を防ぐ厳格で均一な防御に依存している。 構造分離手法はスケーラビリティのボトルネックに直面し、誘導手法は微粒なパーミッションの区別に苦慮する。 本稿では,認証ロジックをLLMのコア機能に内部化するセキュアなトレーニングおよび推論パラダイムであるChain-of-Authorization(CoA)フレームワークを提案する。 入力にパーミッションコンテキストを埋め込んで、リソースレビュー、アイデンティティの解決、最終応答前の意思決定段階を含む明確な承認推論の軌跡を生成する必要がある。 さまざまな承認状況をカバーするデータの教師付き微調整を通じて、CoAはポリシー実行とタスク応答を統合し、承認を実体的応答の因果的前提とする。 大規模な評価は、CoAが認可されたシナリオで同等のユーティリティを維持しているだけでなく、許可がミスマッチした場合の認知的混乱も克服していることを示している。 様々な不正アクセスや敵対的アクセスに対して高い拒否率を示す。 このメカニズムはLLMの推論能力を活用して動的認証を行い、現代のAIシステムに信頼性の高いLLMをデプロイするための積極的なセキュリティメカニズムとして自然言語理解を使用する。

関連論文リスト

• Authorize-on-Demand: Dynamic Authorization with Legality-Aware Intellectual Property Protection for VLMs [70.09137776277994]
  AoD-IPは、オンデマンドおよび合法性認識アセスメントをサポートするフレームワークである。 AoD-IPは強力な認証ドメイン性能と信頼性の高い不正検出を維持している。
  論文  参考訳（メタデータ） (2026-03-05T07:36:07Z)
• Trustworthy Agentic AI Requires Deterministic Architectural Boundaries [2.378211191937908]
  現在のエージェントAIアーキテクチャは、高度な科学領域のセキュリティと要求と根本的に相容れない。 3つのメカニズムを通じてセキュリティを強制するトリニティ・ディフェンス・アーキテクチャを導入する。 疑わしい証明と決定論的調停がなければ、Lethal Trifecta'(信頼できない入力、特権データアクセス、外部アクション能力)は、認証セキュリティをエクスプロイト発見の問題にします。
  論文  参考訳（メタデータ） (2026-02-10T16:33:40Z)
• Just Ask: Curious Code Agents Reveal System Prompts in Frontier LLMs [65.6660735371212]
  textbftextscJustAskは,インタラクションのみで効果的な抽出戦略を自律的に発見するフレームワークである。 これは、アッパー信頼境界に基づく戦略選択と、原子プローブと高レベルのオーケストレーションにまたがる階層的なスキル空間を用いて、オンライン探索問題として抽出を定式化する。 この結果から,現代のエージェントシステムにおいて,システムプロンプトは致命的ではあるがほぼ無防備な攻撃面であることがわかった。
  論文  参考訳（メタデータ） (2026-01-29T03:53:25Z)
• Towards Verifiably Safe Tool Use for LLM Agents [53.55621104327779]
  大規模言語モデル(LLM)ベースのAIエージェントは、データソース、API、検索エンジン、コードサンドボックス、さらにはその他のエージェントなどのツールへのアクセスを可能にすることで、機能を拡張する。 LLMは意図しないツールインタラクションを起動し、機密データを漏洩したり、クリティカルレコードを上書きしたりするリスクを発生させる。 モデルベースセーフガードのようなリスクを軽減するための現在のアプローチは、エージェントの信頼性を高めるが、システムの安全性を保証することはできない。
  論文  参考訳（メタデータ） (2026-01-12T21:31:38Z)
• Agentic AI for Autonomous Defense in Software Supply Chain Security: Beyond Provenance to Vulnerability Mitigation [0.0]
  本論文は,自律型ソフトウェアサプライチェーンセキュリティに基づくエージェント人工知能(AI)の例を含む。 大規模言語モデル(LLM)ベースの推論、強化学習(RL)、マルチエージェント調整を組み合わせている。 その結果、エージェントAIは、自己防衛的で積極的なソフトウェアサプライチェーンへの移行を促進することが示されている。
  論文  参考訳（メタデータ） (2025-12-29T14:06:09Z)
• MAIF: Enforcing AI Trust and Provenance with an Artifact-Centric Agentic Paradigm [0.5495755145898128]
  現在のAIシステムは、監査証跡、証明追跡、EU AI Actのような新たな規則で要求される説明可能性に欠ける不透明なデータ構造で運用されている。 動作は一時的なタスクではなく、永続的で検証可能なデータアーティファクトによって駆動される、アーティファクト中心のAIエージェントパラダイムを提案する。 プロダクション対応実装では、超高速ストリーミング(2,720.7MB/s)、最適化されたビデオ処理(1,342MB/s)、エンタープライズレベルのセキュリティが示されている。
  論文  参考訳（メタデータ） (2025-11-19T04:10:32Z)
• Making LLMs Reliable When It Matters Most: A Five-Layer Architecture for High-Stakes Decisions [51.56484100374058]
  現在の大規模言語モデル(LLM)は、実行前にアウトプットをチェックできるが、不確実な結果を伴う高い戦略決定には信頼性が低い検証可能な領域で優れている。 このギャップは、人間と人工知能(AI)システムの相互認知バイアスによって引き起こされ、そのセクターにおける評価と投資の持続可能性の保証を脅かす。 本報告では、7つのフロンティアグレードLDMと3つの市場向けベンチャーヴィグネットの時間的圧力下での系統的質的評価から生まれた枠組みについて述べる。
  論文  参考訳（メタデータ） (2025-11-10T22:24:21Z)
• Enterprise AI Must Enforce Participant-Aware Access Control [9.68210477539956]
  大規模言語モデル(LLM)は、複数のユーザと対話し、センシティブな内部データに基づいてトレーニングあるいは微調整されるエンタープライズ環境に、ますます多くデプロイされている。 敵は、現在の微調整アーキテクチャやRAGアーキテクチャを利用して、アクセス制御の強制力の欠如を活用して機密情報を漏洩することができることを示す。 本稿では, LLM による学習, 検索, 生成に使用されるコンテンツは, インセンティブに関わるユーザに対して明示的に認証される,という原則に基づくフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-09-18T04:30:49Z)
• CoTGuard: Using Chain-of-Thought Triggering for Copyright Protection in Multi-Agent LLM Systems [55.57181090183713]
  我々は、Chain-of-Thought推論内でトリガーベースの検出を活用する著作権保護のための新しいフレームワークであるCoTGuardを紹介する。 具体的には、特定のCoTセグメントをアクティベートし、特定のトリガクエリをエージェントプロンプトに埋め込むことで、未許可コンテンツ再生の中間的推論ステップを監視する。 このアプローチは、協調エージェントシナリオにおける著作権侵害の微細かつ解釈可能な検出を可能にする。
  論文  参考訳（メタデータ） (2025-05-26T01:42:37Z)
• Compromising Embodied Agents with Contextual Backdoor Attacks [69.71630408822767]
  大型言語モデル(LLM)は、エンボディドインテリジェンスの発展に変化をもたらした。 本稿では,このプロセスにおけるバックドアセキュリティの重大な脅威を明らかにする。 ほんの少しの文脈的デモンストレーションを毒殺しただけで、攻撃者はブラックボックスLDMの文脈的環境を隠蔽することができる。
  論文  参考訳（メタデータ） (2024-08-06T01:20:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。