論文の概要: Can Semantic Geometry Teach an AI Judgement?

• arxiv url: http://arxiv.org/abs/2610.07249v1
• Date: Mon, 05 Oct 2026 18:49:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.603611
• Title: Can Semantic Geometry Teach an AI Judgement?
• Title（参考訳）: セマンティック幾何学はAI判断を教えることができるか?
• Abstract要約: ある規則は行動を認め、別の規則は条件、例外、または矛盾する義務を課す。 未解決のすべてのアクションを拒否することは、そのリスクを回避するだけでなく、許容可能なアクションをブロックする。 私たちはエージェントにその区別をしてまだ行動させたかった。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: How can an AI agent determine what rules to follow? One rule permits an action. Another imposes a condition, exception, or conflicting obligation. Deterministic systems can resolve those relationships when they have been specified. When they remain implicit in language, an agent can follow one rule while missing another that should stop it. Refusing every unresolved action avoids that risk, but also blocks permissible actions. We wanted the agent to make the distinction and still act. Our initial hypothesis was that geometric measurements could supply a basis for judgment. We represented actions and policies as vectors, then tested whether their geometry could identify governing policies and interpret the action's relation to them. Across four studies, the tested approaches did not establish reliable pre-action judgment. In the final synthetic study, a lexical router recovered every governing and blocking policy while reducing median policy checks by 97.7%. The composed pipeline nevertheless escalated all 2,304 test actions, including those it should have allowed. Supplying every policy to the same downstream mechanism changed no decision. Finding the policies had not solved the problem of interpreting them. This result led us to revise our hypothesis: judgment in AI agents requires developing a consequence graph. Such a graph would connect the actor and authority to policy conditions, exceptions, and the changes an action would produce. Follow-on studies will ask whether making those relationships explicit helps the agent distinguish when to act, stop, or seek review.
• Abstract（参考訳）: AIエージェントは、どんなルールに従うべきかをどうやって決定できるのか? 1つのルールはアクションを許可します。 他の者は条件、例外、または矛盾する義務を課す。 決定論的システムは、それらの関係が特定されたときにその関係を解決できる。 言語で暗黙的なままである場合、エージェントはそれを止めるべき他のルールを欠いている間、一つのルールに従うことができる。 未解決のすべてのアクションを拒否することは、そのリスクを回避するだけでなく、許容可能なアクションをブロックする。 私たちはエージェントにその区別をしてまだ行動させたかった。 私たちの最初の仮説は、幾何学的測定が判断の基盤となるというものだった。 我々は行動と政策をベクトルとして表現し、その幾何学が統治方針を識別し、行動とそれとの関係を解釈できるかどうかを検証した。 4つの研究の合計で、試験されたアプローチは信頼性の高い事前行動判断を立証しなかった。 最終研究において、レキシカルルータは、中央値のポリシーチェックを97.7%削減しながら、すべての規制とブロックポリシーを回復した。 構成されたパイプラインは、許可すべきものを含む2,304のテストアクションをすべてエスカレートした。 同じ下流の仕組みにすべてのポリシーを供給しても決定は変わらない。 政策の発見は、それらを解釈する問題の解決には至らなかった。 この結果、私たちは仮説を修正しました。AIエージェントの判断には結果グラフの開発が必要です。 このようなグラフはアクターと権限をポリシー条件、例外、そしてアクションが生み出す変化に結びつける。 フォローオン研究は、これらの関係を明確にすることで、エージェントがいつ行動するか、停止するか、またはレビューを求めるのに役立つかどうかを問う。

関連論文リスト

• Not Self-Decidable: LLMs Cannot Draw the Boundary of What an Agent Verifier Can Check [0.0]
  エージェントの検証者は、固定チェックが解決できるものと、裁判官を必要とするものとの2種類のルールに直面します。 CoVerは全会一致を指名として扱い、そのために合成されたチェックが介入を生き残る場合にのみ述語を認める。 自己決定性はモデルから引き出す能力ではなく、検証者が構築しなければならない境界である。
  論文  参考訳（メタデータ） (2026-10-03T18:25:12Z)
• Which Rules Matter Now? Policy-Centroid Routing Before an Intelligent System Acts [0.0]
  ポリシーセントロイドルーティングは、偏見の前にレイヤーを生成する。 いくつかの体制が一度に引き起こされることがある。 本論文では, フェーザブルな6つの命題と7つの後続研究について述べる。
  論文  参考訳（メタデータ） (2026-08-31T13:24:47Z)
• Multi-Agent AI Safety as an Institutional Design Problem [0.0]
  マルチエージェントシステムのためのアルゴリズム制度を研究するPOLISの最初の論文である。 最近の研究は、デプロイメントルールが集団的な振る舞いを変える可能性があることをすでに示しています。 私たちは、AI機関のどの部分が安全を生み出し、どのようにそれを行うかを尋ねます。
  論文  参考訳（メタデータ） (2026-08-10T16:47:01Z)
• A Theory of Least Autonomy in AI [0.0]
  この原則は、単に許可を保持するだけでなく、システムの境界を越えてそれらを組み合わせ、承認し、増幅できるエージェントAIシステムには不十分である、と我々は主張する。 まず、企業階層における行動間の構造的分離を測定する構成的ブラスト半径d(a,b)を定義する。 第2に、認可構成、決定操作、ドメイン間機能構成を検出する有向エージェント影響グラフG(theta)を定義する。
  論文  参考訳（メタデータ） (2026-07-03T13:31:34Z)
• Conformal Policy Control [50.46542384484142]
  我々は、安全な参照ポリシーを、最適化されているが未試験のポリシーの確率的規制として使う方法を示す。 保守的な最適化方法とは異なり、ユーザーが正しいモデルクラスを識別したとは仮定しない。 自然言語質問応答から生体分子工学まで,本研究の応用実験は,デプロイ開始当初から安全な探索が可能であることを示唆している。
  論文  参考訳（メタデータ） (2026-03-02T18:54:36Z)
• Bandit Social Learning: Exploration under Myopic Behavior [54.767961587919075]
  オンラインプラットフォーム上でのレビューによって動機付けられた社会学習のダイナミクスについて検討する。 エージェントはまとめて単純なマルチアームのバンディットプロトコルに従うが、各エージェントは探索を伴わずにミオプティカルに振る舞う。 このような振る舞いに対して,スターク学習の失敗を導出し,好意的な結果を提供する。
  論文  参考訳（メタデータ） (2023-02-15T01:57:57Z)
• On Avoiding Power-Seeking by Artificial Intelligence [93.9264437334683]
  私たちは、非常にインテリジェントなAIエージェントの振る舞いと人間の関心を協調する方法を知りません。 私は、世界に限られた影響を与え、自律的に力を求めないスマートAIエージェントを構築できるかどうか調査する。
  論文  参考訳（メタデータ） (2022-06-23T16:56:21Z)
• Policy Regularization for Legible Behavior [0.0]
  強化学習では、一般的に、エージェントのメカニズムに関する洞察を提供することを意味する。 本論文は,エージェントの正当性に着目した説明可能な計画文献手法から借用する。 我々の定式化において、正当性によって導入された決定境界は、エージェントのポリシーが他のポリシーでも高い可能性を持つアクションを返す州に影響を与える。
  論文  参考訳（メタデータ） (2022-03-08T10:55:46Z)
• Sayer: Using Implicit Feedback to Optimize System Policies [63.992191765269396]
  我々は、暗黙のフィードバックを活用して、新しいシステムポリシーを評価し、訓練する方法論を開発する。 Sayerは、強化学習の2つのアイデアに基づいて、既存のポリシーで収集されたデータを活用する。 Sayer氏は任意のポリシーを正確に評価し、生産ポリシーを上回るような新しいポリシーをトレーニングできることを示します。
  論文  参考訳（メタデータ） (2021-10-28T04:16:56Z)
• Policy Gradient for Continuing Tasks in Non-stationary Markov Decision Processes [112.38662246621969]
  強化学習は、マルコフ決定プロセスにおいて期待される累積報酬を最大化するポリシーを見つけることの問題を考える。 我々は、ポリシーを更新するために上昇方向として使用する値関数の偏りのないナビゲーション勾配を計算する。 ポリシー勾配型アルゴリズムの大きな欠点は、定常性の仮定が課せられない限り、それらがエピソジックなタスクに限定されていることである。
  論文  参考訳（メタデータ） (2020-10-16T15:15:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。