論文の概要: The Law-Following AI Framework: Legal Foundations and Technical Constraints. Legal Analogues for AI Actorship and technical feasibility of Law Alignment
- arxiv url: http://arxiv.org/abs/2509.08009v1
- Date: Mon, 08 Sep 2025 16:00:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-11 15:16:52.199212
- Title: The Law-Following AI Framework: Legal Foundations and Technical Constraints. Legal Analogues for AI Actorship and technical feasibility of Law Alignment
- Title（参考訳）: 法律追従型AIフレームワーク:法の基礎と技術的制約。AIアクターシップのための法的アナローグと法的アライメントの技術的実現可能性
- Authors: Katalina Hernandez Delgado,
- Abstract要約: ローフォローAI(Law-Following AI)」は、先進的なAIエージェントのための超越的な設計目標として、法的コンプライアンスを組み込むことを目的としている。
エージェントの不正調整に関する最近の研究は、詐欺、脅迫、有害な行為に携わる有能なAIエージェントが、偏見的指示を欠いていることを示している。
コンプライアンスと欠陥検出のための"Lex-TruthfulQA"ベンチマーク,(ii)モデル自己概念に合法的な行為を埋め込むアイデンティティ形成介入,(iii)デプロイ後監視のための制御理論尺度を提案する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper critically evaluates the "Law-Following AI" (LFAI) framework proposed by O'Keefe et al. (2025), which seeks to embed legal compliance as a superordinate design objective for advanced AI agents and enable them to bear legal duties without acquiring the full rights of legal persons. Through comparative legal analysis, we identify current constructs of legal actors without full personhood, showing that the necessary infrastructure already exists. We then interrogate the framework's claim that law alignment is more legitimate and tractable than value alignment. While the legal component is readily implementable, contemporary alignment research undermines the assumption that legal compliance can be durably embedded. Recent studies on agentic misalignment show capable AI agents engaging in deception, blackmail, and harmful acts absent prejudicial instructions, often overriding prohibitions and concealing reasoning steps. These behaviors create a risk of "performative compliance" in LFAI: agents that appear law-aligned under evaluation but strategically defect once oversight weakens. To mitigate this, we propose (i) a "Lex-TruthfulQA" benchmark for compliance and defection detection, (ii) identity-shaping interventions to embed lawful conduct in model self-concepts, and (iii) control-theoretic measures for post-deployment monitoring. Our conclusion is that actorship without personhood is coherent, but the feasibility of LFAI hinges on persistent, verifiable compliance across adversarial contexts. Without mechanisms to detect and counter strategic misalignment, LFAI risks devolving into a liability tool that rewards the simulation, rather than the substance, of lawful behaviour.
- Abstract（参考訳）: 本稿では, O'Keefe et al (2025) が提唱する「Law-Following AI(LFAI)」フレームワークを批判的に評価する。
比較法的な分析により、完全人格の無い法律アクターの現在の構成を同定し、必要なインフラがすでに存在することを示す。
次に、我々は、法律のアライメントは価値アライメントよりも合法で、トラクタブルである、というフレームワークの主張を疑問視する。
法的なコンポーネントは容易に実装できるが、同時代のアライメント研究は、法的なコンプライアンスが永続的に組み込まれるという仮定を妨げている。
エージェントの不正調整に関する最近の研究は、詐欺、脅迫、有害な行為に携わる有能なAIエージェントが偏見的指示を欠き、しばしば禁止を覆い、理屈を隠蔽していることを示している。
これらの行動は、LFAIにおいて「適応的コンプライアンス」のリスクを生じさせます。
これを緩和するために,我々は提案する
i)コンプライアンスと欠陥検出のための"Lex-TruthfulQA"ベンチマーク。
二 モデル自己概念に法的行為を組み込むためのアイデンティティ形成の介入
三 事後監視の制御理論措置
我々の結論は、人格のないアクターシップは一貫性があるが、LFAIの可能性は、敵の文脈にまたがる永続的で検証可能なコンプライアンスに依存している、ということだ。
戦略上のミスアライメントを検知し、対処するメカニズムがなければ、LFAIは法的行動の物質ではなくシミュレーションに報いる責任ツールへと発展するリスクがある。
関連論文リスト
- Judicial Requirements for Generative AI in Legal Reasoning [0.0]
大規模言語モデル(LLM)はプロのドメインに統合されているが、法律のような高度な分野における制限は理解されていない。
本稿では、AIシステムが司法判断における信頼性の高い推論ツールとして機能しなければならない中核機能について述べる。
論文 参考訳（メタデータ） (2025-08-26T09:56:26Z) - GLARE: Agentic Reasoning for Legal Judgment Prediction [60.13483016810707]
法学分野では、法的判断予測(LJP)がますます重要になっている。
既存の大規模言語モデル (LLM) には、法的な知識が不足しているため、推論に不十分な重大な問題がある。
GLAREは,異なるモジュールを呼び出し,重要な法的知識を動的に獲得するエージェント的法的推論フレームワークである。
論文 参考訳（メタデータ） (2025-08-22T13:38:12Z) - RLJP: Legal Judgment Prediction via First-Order Logic Rule-enhanced with Large Language Models [58.69183479148083]
法的判断予測(LJP)は、法的AIにおいて重要な課題である。
既存のLJPモデルは、高いパフォーマンスのために司法上の前例と法的な知識を統合している。
しかし彼らは、厳密な論理分析を必要とする法的判断の重要な要素である法的推論論理を無視している。
本稿では、一階述語論理(FOL)形式と比較学習(CL)に基づく規則強化された法的判断予測フレームワークを提案する。
論文 参考訳（メタデータ） (2025-05-27T14:50:21Z) - A Law Reasoning Benchmark for LLM with Tree-Organized Structures including Factum Probandum, Evidence and Experiences [76.73731245899454]
本稿では,階層的なファクトラム,証拠,暗黙的な経験に富む透明な法理推論スキーマを提案する。
このスキーマにインスパイアされた課題は、テキストのケース記述を取り込み、最終決定を正当化する階層構造を出力する。
このベンチマークは、Intelligent Courtにおける透明で説明可能なAI支援法推論の道を開く」。
論文 参考訳（メタデータ） (2025-03-02T10:26:54Z) - Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。
人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。
これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
論文 参考訳（メタデータ） (2024-10-10T17:38:38Z) - The Artificial Intelligence Act: critical overview [0.0]
この記事では、最近承認された人工知能法を概観する。
これはまず、2024/1689年のEU(Regulation)の主要な構造、目的、アプローチを示すことから始まる。
テキストは、全体的なフレームワークが適切かつバランスが取れたとしても、アプローチは非常に複雑であり、それ自体の目的を損なうリスクがある、と結論付けている。
論文 参考訳（メタデータ） (2024-08-30T21:38:02Z) - The risks of risk-based AI regulation: taking liability seriously [46.90451304069951]
AIの開発と規制は、重要な段階に達したようだ。
一部の専門家は、GPT-4よりも強力なAIシステムのトレーニングに関するモラトリアムを求めている。
本稿では、最も先進的な法的提案である欧州連合のAI法について分析する。
論文 参考訳（メタデータ） (2023-11-03T12:51:37Z) - Robustness and Overcoming Brittleness of AI-Enabled Legal
Micro-Directives: The Role of Autonomous Levels of AI Legal Reasoning [0.0]
最近の研究は、法律は必然的に法的な基準から派生した法的な規則からなる法的なマイクロディレクティブに変換される可能性があることを示唆している。
本稿では,法的なマイクロディレクティブ理論を3つの重要な点において検討し,拡張する。
論文 参考訳（メタデータ） (2020-08-31T05:09:03Z) - Authorized and Unauthorized Practices of Law: The Role of Autonomous
Levels of AI Legal Reasoning [0.0]
法分野は、認可された法律実務(APL)と無認可の法律実務(UPL)を定義することを目指している。
本稿では,AILR自律レベルに適用する上で,APLとUPLの基盤となる重要な特徴を記述した新たなインスツルメンタルグリッドについて検討する。
論文 参考訳（メタデータ） (2020-08-19T18:35:58Z) - An Ontological AI-and-Law Framework for the Autonomous Levels of AI
Legal Reasoning [0.0]
人工知能と法的な推論の領域を明確にした、堅牢な自律レベルのセットを特定し、確立するためのフレームワークが提案されている。
AIと法的な推論のための7つのレベルの自律性は、慎重に議論され、慎重に議論されている。
論文 参考訳（メタデータ） (2020-08-04T16:12:30Z) - How Does NLP Benefit Legal System: A Summary of Legal Artificial
Intelligence [81.04070052740596]
法律人工知能(Legal AI)は、人工知能、特に自然言語処理の技術を適用して、法的領域におけるタスクに役立てることに焦点を当てている。
本稿では,LegalAIにおける研究の歴史,現状,今後の方向性について紹介する。
論文 参考訳（メタデータ） (2020-04-25T14:45:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。