論文の概要: PAVE: A Cognitive Architecture for Legitimate Violation in Generative Agent Societies
- arxiv url: http://arxiv.org/abs/2605.19351v1
- Date: Tue, 19 May 2026 04:40:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-20 15:03:09.123785
- Title: PAVE: A Cognitive Architecture for Legitimate Violation in Generative Agent Societies
- Title（参考訳）: PAVE:ジェネレーティブエージェント・ソサイエティにおけるレジデント・ヴァイオレーションのための認知的アーキテクチャ
- Abstract要約: 生成エージェントは、協調的な環境下で、信頼できる人間の行動を再現することができるが、ルール破りが要求される状況では、どのように推論されるべきかは、いまだに不明確である。
このギャップを埋める新しい4モジュール認知アーキテクチャであるPAVEを提案する。
我々はスモールビルからフォークしたタイルベースの交通環境であるVovilleでPAVEをインスタンス化し、3つのシナリオで評価する。
- 参考スコア（独自算出の注目度）: 3.8300637171362752
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Generative agents based on large language models reproduce believable human behavior in cooperative settings, but how they should reason in situations where rule-breaking may be required, such as fire evacuation or authority-supervised emergency, remains poorly characterized. We propose PAVE (Perception, Assessment, Verdict, Emulation), a novel four-module cognitive architecture that addresses this gap end to end: (i) Perception extracts a structured context with explicit authority distance, peer behaviors, and severity-tagged situational cues; (ii) Assessment scores the context along five scalars including an explicit legitimacy judgment that checks necessity, proportionality, and absence of alternatives; (iii) Verdict decides to comply or violate under a hard legitimacy gate, with a per-agent threshold elicited from the persona; (iv) Emulation enacts the verdict and scopes the violation to the rule the trigger justifies. We instantiate PAVE in Voville, a tile-based traffic environment forked from Smallville, and evaluate across three scenarios, four LLM backbones, and a focused ablation. PAVE agents satisfy four properties simultaneously: legitimate violation (only when a trigger justifies it), authority deference (officer instructions override even high legitimacy), bounded scope (violations confined to the targeted rule), and recovery (baseline restored once the trigger ends). PAVE agents make more structured and interpretable decisions than vanilla across all four properties, and human evaluators rate them as more plausible. Ablating the legitimacy gate reproduces vanilla-like failures. We release Voville, the PAVE prompts and code, and the evaluation pipeline.
- Abstract（参考訳）: 大規模言語モデルに基づく生成エージェントは, 協調的な環境下での人間行動の再現は可能であるが, 火災避難や当局が監督する非常事態など, ルール破りが必要な状況において, どのように判断すべきかは, いまだに不明確である。
このギャップに対処する新しい4モジュール認知アーキテクチャであるPAVE(Perception, Assessment, Verdict, Emulation)を提案する。
(i)知覚は、明示的な権威距離、ピア行動、重度タグ付き状況手がかりを有する構造化された文脈を抽出する。
2 必要性、比例性及び選択肢の欠如をチェックする明示的正当性判断を含む5つのスカラーに沿った文脈を評価すること。
3 判決は、人格から誘引された一人当たりの閾値で、厳格な正当性ゲートの遵守又は違反を決定したこと。
(iv)エミュレーションは、判決を実行し、トリガーが正当化する規則に違反します。
我々は,スモールビルからフォークしたタイルベースの交通環境であるVovilleでPAVEをインスタンス化し,3つのシナリオ,4つのLCMバックボーン,集中的アブレーションを評価した。
PAVEエージェントは4つの特性を同時に満たす: 正当な違反(トリガーがそれを正当化した場合のみ)、権限委譲(高正当性さえ上回る)、境界範囲(ターゲットルールに制限された違反)、リカバリ(トリガーが終了するとベースラインが復元される)。
PAVEエージェントは、バニラよりも構造的で解釈可能な決定を4つの特性全てにわたって行い、人間の評価者はそれらをより妥当であると評価する。
正当性ゲートを非難することは、バニラのような失敗を再現する。
Voville、PAVEプロンプトとコード、評価パイプラインをリリースしています。
関連論文リスト
- Human-on-the-Loop Orchestration for AI-Assisted Legal Discovery [0.0]
本稿では,法的情報検索におけるエージェント障害の構造的分類法を提案する。
本稿では,これらの故障を補うために設計した4層検証アーキテクチャを提案する。
以上の結果から,キャリブレーションされた不確実性閾値は,完全自律配置と比較して最大61%低下する可能性が示唆された。
論文 参考訳（メタデータ） (2026-06-18T05:37:52Z) - Intent Signal Theory: A Computational Framework for Intent-State Control in Human-AI Interaction [0.585480332059272]
現在のAIインタラクションモデルは、プロンプトを主要な交換対象として扱い、重要なレイヤを省略する。
ここでは、この欠落した意図層を形式化する計算フレームワークであるIntent Signal Theory (IST)を紹介する。
ISTは、遅延ソースインテント(I*)、観測可能なインテントプロキシ(I-hat)、エンコードされたキャリア(P)、モデル出力(O)の4つのオブジェクトを日常的に混同している。
論文 参考訳（メタデータ） (2026-05-24T13:10:33Z) - Interpretation, Learning, and Empathy as One Constraint: A Residual-Adequacy Architecture with Accountable Abstention [0.0]
一つの量から限界が生じる小さな認知アーキテクチャを開発する。
解釈決定ユニット(IDU)は、コンテントベクトルをレギュレーションのファミリを通じて解釈し、ライセンスするアクションを決定する。
任意のコンテンツと固定構成に対して、ユニークな端末証人を持つ有限個の有界コストステップで停止する。
論文 参考訳（メタデータ） (2026-05-24T10:57:28Z) - PRISM: : Planning and Reasoning with Intent in Simulated Embodied Environments [59.07829883257003]
5つの集合住宅の上に建設され、PRISMは300の人間認証タスクを3つの能力レベルに構成する。
PRISMはエージェントに依存しない実行可能なアクションAPIを公開し、任意のエージェントをエンドツーエンドで評価できるようにする。
論文 参考訳（メタデータ） (2026-05-12T04:59:47Z) - Decision Evidence Maturity Model for Agentic AI: A Property-Level Method Specification [0.0]
エージェントAIシステムは、実行テレメトリを通じて大規模な意思決定証拠を生成するが、プロパティレベルの再構築は失敗することが多い。
このパターンをコンテナ誤認(container fallacy)と呼んでいます。
本稿では,エージェント決定のための特性レベル再構成法であるDecision Evidence Maturity Model (DEMM)を提案する。
論文 参考訳（メタデータ） (2026-04-29T09:59:36Z) - Structural Enforcement of Goal Integrity in AI Agents via Separation-of-Powers Architecture [0.10152838128195464]
Policy-Execution-Authorization (PEA)アーキテクチャは、システムレベルでの安全性を強制する"パワーの分離"設計である。
PEAはインテントの生成、承認、実行を、暗号的に制約された機能トークンを介して接続された独立した分離されたレイヤに分離する。
論文 参考訳（メタデータ） (2026-04-26T10:31:13Z) - To Throw a Stone with Six Birds: On Agents and Agenthood [0.0]
Six Birds Theory (SBT)は、マクロな物体を原始体ではなく誘導的閉包として扱う。
SBT内では,タイプ正当性評価を行う。
我々はこの契約を4つのチェック可能なコンポーネントを用いて有限制御システムで運用する。
論文 参考訳（メタデータ） (2026-02-03T10:46:23Z) - Preventing the Collapse of Peer Review Requires Verification-First AI [49.995126139461085]
我々は、真理結合、すなわち、過度に科学的真理をトラックする場所のスコアの厳密さを提案する。
プロキシ・ソブリン評価に向けた相転移を駆動する2つの力の形式化を行う。
論文 参考訳（メタデータ） (2026-01-23T17:17:32Z) - Inference-Time Scaling of Verification: Self-Evolving Deep Research Agents via Test-Time Rubric-Guided Verification [71.98473277917962]
近年のDeep Research Agents (DRA) の進歩は、自動知識発見と問題解決に変化をもたらしている。
本稿では,政策モデルのアウトプットを反復的に検証することで,エージェントの能力を自己進化させる手法を提案する。
検証の非対称性を生かしたルーブリックスに基づく結果報酬検証器であるDeepVerifierを提案する。
論文 参考訳（メタデータ） (2026-01-22T09:47:31Z) - Gaming the Judge: Unfaithful Chain-of-Thought Can Undermine Agent Evaluation [76.5533899503582]
大規模言語モデル(LLM)は、エージェントのパフォーマンスを評価するために、ますます裁判官として使われている。
このパラダイムは、エージェントのチェーン・オブ・シークレット(CoT)推論が内部の推論と環境状態の両方を忠実に反映していることを暗黙的に仮定している。
我々は、操作された推論だけで、様々なWebタスクにまたがる800の軌跡に対して、最先端のVLM審査員の偽陽性率を最大90%向上させることができることを実証した。
論文 参考訳（メタデータ） (2026-01-21T06:07:43Z) - Making LLMs Reliable When It Matters Most: A Five-Layer Architecture for High-Stakes Decisions [51.56484100374058]
現在の大規模言語モデル(LLM)は、実行前にアウトプットをチェックできるが、不確実な結果を伴う高い戦略決定には信頼性が低い検証可能な領域で優れている。
このギャップは、人間と人工知能(AI)システムの相互認知バイアスによって引き起こされ、そのセクターにおける評価と投資の持続可能性の保証を脅かす。
本報告では、7つのフロンティアグレードLDMと3つの市場向けベンチャーヴィグネットの時間的圧力下での系統的質的評価から生まれた枠組みについて述べる。
論文 参考訳（メタデータ） (2025-11-10T22:24:21Z) - The Epistemic Suite: A Post-Foundational Diagnostic Methodology for Assessing AI Knowledge Claims [0.7233897166339268]
本稿では,AI出力の生成と受信の状況を理解するための診断手法であるEpistemic Suiteを紹介する。
真実や虚偽を判断する代わりに、スイートは20個の診断レンズを通して、信頼の洗浄、物語の圧縮、異動した権威、一時的な漂流などのパターンを明らかにする。
論文 参考訳（メタデータ） (2025-09-20T00:29:38Z) - Criticality and Safety Margins for Reinforcement Learning [53.10194953873209]
我々は,定量化基盤真理とユーザにとっての明確な意義の両面から,批判的枠組みを定めようとしている。
エージェントがn連続的ランダム動作に対するポリシーから逸脱した場合の報酬の減少として真臨界を導入する。
我々はまた、真の臨界と統計的に単調な関係を持つ低オーバーヘッド計量であるプロキシ臨界の概念も導入する。
論文 参考訳（メタデータ） (2024-09-26T21:00:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。