論文の概要: When AI output tips to bad but nobody notices: Legal implications of AI's mistakes

• arxiv url: http://arxiv.org/abs/2603.23857v1
• Date: Wed, 25 Mar 2026 02:34:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-26 21:06:11.093237
• Title: When AI output tips to bad but nobody notices: Legal implications of AI's mistakes
• Title（参考訳）: AIのアウトプットが悪くても誰も気づかない:AIの失敗の法的意味
• Authors: Dylan J. Restrepo, Nicholas J. Restrepo, Frank Y. Huo, Neil F. Johnson,
• Abstract要約: 生成AIは、AIが完全に本物に見える架空の事件法、法令、司法権を構成する危険な失敗モードを導入する。 このような行為を無意識に報告する司法官は、 専門的な制裁、 不正行為の暴露、 評判の悪影響に直面している。 法律専門家、裁判所、規制当局が、古いブラックボックスのメンタルモデルを、これらのシステムが実際にどのように失敗するかに基づいた検証プロトコルで置き換えることを提案します。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The adoption of generative AI across commercial and legal professions offers dramatic efficiency gains -- yet for law in particular, it introduces a perilous failure mode in which the AI fabricates fictitious case law, statutes, and judicial holdings that appear entirely authentic. Attorneys who unknowingly file such fabrications face professional sanctions, malpractice exposure, and reputational harm, while courts confront a novel threat to the integrity of the adversarial process. This failure mode is commonly dismissed as random `hallucination', but recent physics-based analysis of the Transformer's core mechanism reveals a deterministic component: the AI's internal state can cross a calculable threshold, causing its output to flip from reliable legal reasoning to authoritative-sounding fabrication. Here we present this science in a legal-industry setting, walking through a simulated brief-drafting scenario. Our analysis suggests that fabrication risk is not an anomalous glitch but a foreseeable consequence of the technology's design, with direct implications for the evolving duty of technological competence. We propose that legal professionals, courts, and regulators replace the outdated `black box' mental model with verification protocols based on how these systems actually fail.
• Abstract（参考訳）: 商用および法的専門職にまたがる生成AIの採用は、劇的な効率向上をもたらす。しかし法律では、AIは完全に本物に見える架空の事例法、制定法、司法権を構成する危険な障害モードを導入している。 このような行為を無意識に報告する司法官は、専門的な制裁、不正行為の暴露、評判の害に直面する一方、裁判所は、敵のプロセスの完全性に対する新たな脅威に直面している。 この障害モードは一般にランダムな「幻覚」として否定されるが、最近の物理学に基づくトランスフォーマーのコアメカニズムの分析では決定論的要素が明らかにされている。 ここでは、この科学を、シミュレートされた短い図面のシナリオを歩きながら、法的な産業環境で提示する。 我々の分析は、製造リスクは異常な問題ではなく、技術設計の予測可能な結果であり、技術的能力の進化に直接的な意味があることを示唆している。 我々は、旧来の「ブラックボックス」精神モデルを、これらのシステムが実際にどのように失敗するかに基づいた検証プロトコルで置き換えることを提案する。

関連論文リスト

• Why Avoid Generative Legal AI Systems? Hallucination, Overreliance, and their Impact on Explainability [0.0]
  本稿では, 法的な職業における生成型AIシステムの展開には, 幻覚と過信の重大なリスクのため, 強い抑制が必要であることを論じる。 この分析の中心はジェネレーティブ法定AI(GLAI)の定義である。
  論文  参考訳（メタデータ） (2026-03-16T21:40:43Z)
• Operational Agency: A Permeable Legal Fiction for Tracing Culpability in AI Systems [0.31061678033205636]
  本条では、後述の枠組み及び運用機関グラフ(OAG)として構成された、通用可能な法的フィクションについて紹介する。 OAはAIの観測可能な運用特性を評価する。 OAGは、これらの特徴を因果グラフに埋め込んで、開発者、ファインタウンタ、デプロイ者、ユーザ間の計算可能性を追跡し、評価することで、その分析を運用する。
  論文  参考訳（メタデータ） (2026-02-20T01:49:03Z)
• LegalOne: A Family of Foundation Models for Reliable Legal Reasoning [54.57434222018289]
  我々は、中国の法律ドメインに特化された基礎モデルのファミリーであるLegalOneを紹介します。 LegalOneは、法的推論をマスターするために設計された包括的な3フェーズパイプラインを通じて開発されている。 LegalOneの重み付けとLegalKit評価フレームワークを公開して、Legal AIの分野を前進させます。
  論文  参考訳（メタデータ） (2026-01-31T10:18:32Z)
• A Workflow for Full Traceability of AI Decisions [1.3369766219454542]
  AIシステムの最先端は、意思決定プロセスの適切なドキュメントに関してほとんど努力しません。 本稿では、自動化された意思決定のトレーニングや推論に進む各コンポーネントのドキュメンテーションを強制することによって、この問題に対して急進的で実践的なアプローチをとる。 これは、AI決定の改ざん、検証、徹底的なトレースの生成をサポートする最初の実行ワークフローを示す。
  論文  参考訳（メタデータ） (2025-11-14T13:10:45Z)
• The Verification-Value Paradox: A Normative Critique of Gen AI in Legal Practice [0.0]
  機械学習ベースの生成AI製品は、法的な実践のコストを大幅に削減する、としばしば主張される。 本稿では,AI活用の実践評価に新たなパラダイムが必要であることを論じる。 オーストラリアなどでは、弁護士が不正確なAI生成コンテンツを裁判所に提出したとして非難されているケースは、このパラダイムを再検討する必要があることを示唆している。
  論文  参考訳（メタデータ） (2025-10-23T01:26:37Z)
• The Law-Following AI Framework: Legal Foundations and Technical Constraints. Legal Analogues for AI Actorship and technical feasibility of Law Alignment [0.0]
  ローフォローAI(Law-Following AI)」は、先進的なAIエージェントのための超越的な設計目標として、法的コンプライアンスを組み込むことを目的としている。 エージェントの不正調整に関する最近の研究は、詐欺、脅迫、有害な行為に携わる有能なAIエージェントが、偏見的指示を欠いていることを示している。 コンプライアンスと欠陥検出のための"Lex-TruthfulQA"ベンチマーク,(ii)モデル自己概念に合法的な行為を埋め込むアイデンティティ形成介入,(iii)デプロイ後監視のための制御理論尺度を提案する。
  論文  参考訳（メタデータ） (2025-09-08T16:00:55Z)
• Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
  本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。 人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。 これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
  論文  参考訳（メタデータ） (2024-10-10T17:38:38Z)
• The Ethics of Automating Legal Actors [58.81546227716182]
  我々は、裁判官の役割の自動化は、特に一般的な法体系において、難しい倫理的課題を提起すると主張している。 我々の主張は、単に法律を適用するのではなく、法律を積極的に形成する際の裁判官の社会的役割から従う。 モデルが人間レベルの能力を達成できたとしても、法的プロセスの自動化に固有の倫理的懸念は残るだろう。
  論文  参考訳（メタデータ） (2023-12-01T13:48:46Z)
• Fact-Saboteurs: A Taxonomy of Evidence Manipulation Attacks against Fact-Verification Systems [80.3811072650087]
  証拠のクレームサレントスニペットを微調整し,多様かつクレームアラインな証拠を生成することが可能であることを示す。 この攻撃は、主張のポストホックな修正に対しても堅牢である。 これらの攻撃は、インスペクタブルとヒューマン・イン・ザ・ループの使用シナリオに有害な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2022-09-07T13:39:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。