論文の概要: RAISE: Reinforcing Access Control Policy Synthesis in LLMs via Symbolic Evaluation
- arxiv url: http://arxiv.org/abs/2609.33796v1
- Date: Sun, 27 Sep 2026 17:53:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-04 16:43:59.338322
- Title: RAISE: Reinforcing Access Control Policy Synthesis in LLMs via Symbolic Evaluation
- Title(参考訳): RAISE:シンボリック評価によるLLMにおけるアクセス制御ポリシーの強化
- Abstract要約: 検証可能なCedarポリシー合成のためのトレーニングとセマンティック評価の両方をサポートする最初のデータセットを構築した。
44のドメインに5,800のシナリオがあり、1,408は単一の合成組織を表している。
RAISEは2段階の形式的検証からポリシーシンセサイザーを訓練し、教師付き微調整(SFT)に続いて、検証信号から学習する強化学習段階を学習する。
- 参考スコア(独自算出の注目度): 0.26763498831034044
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Translating natural-language access-control requirements into policies requires careful reasoning about permissions, constraints, and exceptions, and even frontier LLMs often produce policies that violate the intended authorization semantics. We construct CedarInstruct, to our knowledge the first dataset that supports both training and semantic evaluation for formally verifiable Cedar policy synthesis. It contains 5,800 scenarios across 44 domains and 1,408 representing a single synthetic organization, each with a verified target policy and an executable verification plan. On this data we introduce RAISE, which trains policy synthesizers from formal verification in two stages, verified supervised fine-tuning (SFT) followed by a reinforcement learning (RL) stage that learns from verifier signal. We find that SFT succeeds largely by letting models express authorization logic they already have, since untrained models rarely write valid Cedar but often reason correctly when they do. After SFT, how the verifier's information is used matters more than how much of it is used. Of six RL instantiations that consume progressively richer verifier signal, only RAISE-OC improves meaningfully on SFT; it turns failed checks and symbolic counterexamples into guided exploration and learns from the result with off-context GRPO. With about 5.4K verified scenarios and LoRA fine-tuning, RAISE-OC trains Qwen3.5-9B to surpass zero-shot GPT-6 Astra and Claude Opus 5 by 13.33 and 16.26 percentage points in semantic success on held-out scenarios, and training transfers to the independently constructed CedarBench.
- Abstract(参考訳): 自然言語のアクセス制御要件をポリシーに翻訳するには、許可、制約、例外について慎重に推論する必要がある。
我々は、CedarInstructを構築し、Cedarポリシーの正式な検証のためのトレーニングと意味評価の両方をサポートする最初のデータセットを構築した。
44のドメインにわたる5,800のシナリオと、1つの合成組織を表す1,408のシナリオが含まれており、それぞれが検証対象ポリシーと実行可能な検証計画を備えている。
このデータでは,2段階の形式的検証からポリシシンセサイザーを訓練するRAISEを導入し,教師付き微調整(SFT)に続いて,検証信号から学習する強化学習(RL)ステージを導入する。
トレーニングされていないモデルは有効なCedarを書くことはめったにないが、正しい理由付けをすることが多いからだ。
SFT以降、検証者の情報がどの程度使われるかは、その使用量よりも重要である。
よりリッチな検証器信号を消費する6つのRLインスタンスのうち、RAISE-OCのみがSFTで有意義に改善される。
約5.4Kの検証シナリオとLoRAの微調整により、RAISE-OCはQwen3.5-9Bを訓練し、ゼロショットのGPT-6アストラとクロード・オプス5を13.33と16.26ポイント上回った。
関連論文リスト
- A-SR: Self-Evolving Agentic LLMs for Symbolic Regression via Hierarchical Coordination [51.06539604709775]
本稿では、制御ユニットを表現編集からロール条件のエビデンスビューへシフトさせる自己進化型エージェントフレームワークであるA-SRを提案する。
A-SRは、コーディネートプロトコル、オンライン評価器・リワードロールポリシー、および状態制御プロセスメモリ間のルーティングによる公式発見をコーディネートする。
論文 参考訳(メタデータ) (2026-08-05T14:01:10Z) - Stop Thinking, Start Looking: Efficient Post-Training for Multimodal Document Question Answering via Reasoning-Free Alignment [2.8730465903425877]
マルチモーダル文書QAにグループ相対ポリシー最適化を適用するトレーニングフレームワークであるPerception-RFTを紹介する。
推論可能なモデルは,4Bパラメータ尺度で直接知覚に基づくポリシーに収束して,学習中の推論トレースを抑制する。
初期のSFT$rightarrow$RLトランジションは65%のトレーニングデータで同等の精度を実現する。
論文 参考訳(メタデータ) (2026-07-16T07:43:39Z) - ITPEval: Benchmarking Formal Translation Across Interactive Theorem Provers [77.95933562142014]
ITPEvalは、4つの主要なIPP間で自動形式証明翻訳を評価するための最初のベンチマークである。
itpevalは、状態が分離されたウォームバックエンドを備えた、統合されたマルチITP認証インフラストラクチャです。
論文 参考訳(メタデータ) (2026-07-07T22:05:55Z) - Closed-Loop Control with Rule-Aligned Small Language Models and Multi-Agent Self-Correction [17.527470001317685]
本研究では,コンパクトな小言語モデル (SLM) を制御推論のために再訓練し,検証器誘導補正ループに組み込むことができるかを検討する。
ランダム化熱制御シミュレーション(それぞれ500段の30の実験)では、平均的なアクションアライメント精度が91.5%に達する。
シンボリック・リマッピングの下では95%のインレンジレートを維持しており、トークンレベルの合意が減ったにもかかわらず、堅牢な物理的規制を示している。
論文 参考訳(メタデータ) (2026-06-24T13:49:01Z) - Inductive Deductive Synthesis: Enabling AI to Generate Formally Verified Systems [100.24694338574402]
本稿では,インダクティブ・デダクティブ・シンセシス(IDS)について述べる。
IDSは約6.8時間で7/7を達成し、1仕様あたり106ドル、専門家の努力の約200倍、SOTAエージェントの約17%を達成している。
IDSはパフォーマンスフィードバックを同じループに組み込んでおり、検証されたシステムよりも最大3倍高速な実装を実現している。
論文 参考訳(メタデータ) (2026-05-22T00:05:36Z) - Logic-Regularized Verifier Elicits Reasoning from LLMs [63.65875399266337]
論理規則で正規化された教師なしの検証器であるLOVERを提案する。
ローバーは、定理を二項潜在変数として扱い、内部の活性化を活用し、3つの論理的制約を課す。
ローバーは教師なしのベースラインを大幅に上回る。
論文 参考訳(メタデータ) (2026-05-07T09:03:49Z) - Context Kubernetes: Declarative Orchestration of Enterprise Knowledge for Agentic AI Systems [0.0]
エージェントAIシステムにおけるエンタープライズ知識のオーケストレーションのためのアーキテクチャであるContextを紹介する。
本稿では,6つのコア抽象化,知識アーキテクチャ・アズ・コードのためのYAMLマニフェスト,和解ループ,3層エージェントパーミッションモデルについて定式化する。
コンテキストオーケストレーションをコンテナオーケストレーションよりも難しくする4つのプロパティを特定します。
論文 参考訳(メタデータ) (2026-04-13T15:35:55Z) - What If Consensus Lies? Selective-Complementary Reinforcement Learning at Test Time [57.533031432715084]
TTRL(Test-Time Reinforcement Learning)は、Large Language Models(LLM)が、ラベルのないテストストリームの推論能力を向上することを可能にする。
既存のTTRL法は、正の擬似ラベル戦略にのみ依存している。
本研究では,ラベル雑音増幅を効果的に緩和する堅牢なテスト時間強化学習フレームワークであるSCRLを提案する。
論文 参考訳(メタデータ) (2026-03-20T11:47:12Z) - LOGIGEN: Logic-Driven Generation of Verifiable Agentic Tasks [4.6880826836662814]
検証可能なトレーニングデータを合成するロジック駆動フレームワークである textbfLOGIGEN を紹介する。
2$-Benchでは、LOGIGEN-32B(RL)がtextbf79.5%の成功率を獲得し、ベースモデルを大幅に上回っている。
論文 参考訳(メタデータ) (2026-02-28T08:35:30Z) - Scaling the Scaling Logic: Agentic Meta-Synthesis of Logic Reasoning [18.75349680577575]
SSLogicは、コントロール可能な困難を伴う継続的家族進化のためのフレームワークである。
SSLogicに進化したデータのトレーニングは、一致したステップでシードベースラインに対して一貫した利得を得る。
論文 参考訳(メタデータ) (2026-01-23T13:26:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。