論文の概要: When Can Safe Controllers Adapt? Information before Commitment

• arxiv url: http://arxiv.org/abs/2607.16895v1
• Date: Sat, 18 Jul 2026 17:30:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-21 18:48:37.297556
• Title: When Can Safe Controllers Adapt? Information before Commitment
• Title（参考訳）: 安全コントローラはいつ適応できるのか?
• Abstract要約: 本研究では,学習経路自体の安全保証の下で,安全な適応制御について検討する。 パフォーマンスは、実際のモデルを知っている安全なオラクルに対して測定されます。 我々は,特殊事例の回復を証明し,決定論的線形ガウス系に対する半定値上の証明を導出する。
• 参考スコア（独自算出の注目度）: 26.556002437630426
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Safe adaptive control is online adaptation under a safety guarantee on the learning trajectory itself. The controller may use any causal, history-dependent rule and act differently across environments as data arrive. Only its safety guarantee is uniform: the same rule must satisfy it under every initially plausible model. Performance is measured against a safe oracle that knows the realized model. Many finite-time analyses assume persistent excitation of the uniformly safe closed loop, so the data distinguish every pair of models requiring different control decisions. Under that assumption, feasibility is already settled; only the rate remains. We ask instead: Do the safety constraints permit such an informative experiment at all? While an alternative remains plausible, the controller must preserve a safe continuation under it. We call the first action that forecloses such a continuation commitment. Chance safety allows commitment only on an event rare under the alternative, and the evidence must arrive beforehand: the observation generated by the committing action is too late. We define precommitment information as the KL divergence between learner-visible laws stopped before commitment. Our main result is a causal reduction. The commitment rule determines (1) the probability that safety permits commitment under the alternative, (2) the target-side cost of remaining noncommittal, (3) and the information available when the decision is made. Bounded precommitment information therefore leaves a fixed fraction of the oracle gap unavoidable. If the gap is Ω(T), every uniformly safe policy has linear regret. We establish the obstruction in a constrained linear system with quadratic regulation cost. We also prove recovery in special cases and derive semidefinite upper certificates for deterministic linear-Gaussian systems.
• Abstract（参考訳）: 安全な適応制御は、学習軌跡自体の安全保証の下でのオンライン適応である。 コントローラはあらゆる因果的かつ履歴に依存したルールを使用し、データが到着すると環境によって異なる振る舞いをする。 安全性の保証のみが一様であり、同じ規則は初期実証可能なすべてのモデルの下で満たさなければならない。 パフォーマンスは、実際のモデルを知っている安全なオラクルに対して測定されます。 多くの有限時間解析は、均一に安全な閉ループの持続的な励起を仮定するので、データは異なる制御決定を必要とする全てのモデルのペアを区別する。 その前提の下では、実現可能性は既に解決されており、レートのみが残っている。 安全上の制約は、そのような情報的な実験をまったく許可しませんか? 代替手段は依然として可能であるが、コントローラはその下にある安全な継続を保たなければならない。 このような継続のコミットメントを隠蔽する最初のアクションを、私たちは呼びます。 チャンスの安全は、代替手段の下で稀な出来事にのみコミットメントを許し、証拠が事前に届かなければならない。 我々は,事前コミットメント情報を,学習者可視法と学習者可視法とのKLの相違として定義する。 私たちの主な成果は因果関係の縮小です。 コミットメントルールは、(1)代替案の下で安全がコミットメントを許す確率、(2)残りの非コミットの目標側コスト、(3)決定が下されたときに利用可能な情報を決定する。 したがって、境界付き事前割当情報は、オラクルギャップの固定分を回避できないままにしておく。 ギャップがΩ(T) であれば、すべての一様安全なポリシーは線形後悔を持つ。 我々は2次規制コストの制約付き線形システムにおける障害を確立する。 また,特殊ケースの回復を証明し,決定論的線形ガウス系に対する半定値上の証明を導出する。

関連論文リスト

• SafeCommit: Certifying When Memory-Grounded Agents May Safely Act [0.10742675209112619]
  エージェント推論と外部実行の間のリスク制御層であるSafeCommitを紹介する。 コンフォメーションアクション証明書が保持されているすべての世界において、アクションが安全であることを示す場合にのみ、サイドエフェクトフルアクションを許可する。 依存性のない制御シミュレータは、安全ユーティリティのトレードオフを示し、報告されたすべての結果を1つのコマンドで再現する。
  論文  参考訳（メタデータ） (2026-08-04T23:44:35Z)
• What Can Be Enforced? A Theory of Certified Runtime Safety for Tool-Using Agents [0.0]
  ガードレールは不可逆のツールコールの前に動作しますが、その保証は、どのポリシー状態が表現可能であるかによって異なります。 ピアソン表現攻撃はマージンを増すので、良性校正だけでは移動しない。 実験は静的診断、制御モデル列挙、表現書き直し、ペア化された閉ループ再実行を通じてこれらの区別を目標とする。
  論文  参考訳（メタデータ） (2026-07-24T19:14:26Z)
• Mark, Don't Erase: Token Inoculation for Dual-Use Knowledge in LLMs [54.96236442484317]
  リスクのある知識はモデルに保持でき、特権制御トークンによって行動的に守られることを示す。 Token Inoculation という手法はバインディング・アンド・ブランチ方式を導入している。
  論文  参考訳（メタデータ） (2026-07-21T02:15:39Z)
• Do Models Share Safety Representations? Cross-Model Steering for Safe Visual Generation [52.122731171289665]
  クロスモデル安全ステアリングのための最初のフレームワークを紹介する。 私たちのパイプラインは、ターゲット側の安全でないデータにアクセスしません。 多様なソース・ターゲット・モデル・ペア間のテキスト・ツー・イメージとテキスト・ツー・ビデオ生成におけるアプローチを評価する。
  論文  参考訳（メタデータ） (2026-06-03T18:00:04Z)
• Conformal Policy Control [50.46542384484142]
  我々は、安全な参照ポリシーを、最適化されているが未試験のポリシーの確率的規制として使う方法を示す。 保守的な最適化方法とは異なり、ユーザーが正しいモデルクラスを識別したとは仮定しない。 自然言語質問応答から生体分子工学まで,本研究の応用実験は,デプロイ開始当初から安全な探索が可能であることを示唆している。
  論文  参考訳（メタデータ） (2026-03-02T18:54:36Z)
• Building a Foundational Guardrail for General Agentic Systems via Synthetic Data [76.18834864749606]
  LLMエージェントは、計画段階で介入するマルチステップタスクを計画できる。 既存のガードレールは主にポスト・エグゼクティブ(英語版)を運用しており、スケーリングが困難であり、計画レベルで制御可能な監督を行う余地がほとんどない。 我々は、良性軌道を合成し、カテゴリーラベル付きリスクを困難に注入し、自動報酬モデルを介して出力をフィルタリングする制御可能なエンジンであるAuraGenを紹介する。
  論文  参考訳（メタデータ） (2025-10-10T18:42:32Z)
• Core Safety Values for Provably Corrigible Agents [2.6451153531057985]
  我々は,複数段階の部分的に観察された環境において,検証可能な保証を付与し,適応性のための最初の実装可能なフレームワークを紹介した。 私たちのフレームワークは、単一の報酬を5つの*構造的に分離された*ユーティリティヘッドに置き換えます。 敵がエージェントを修正できるオープンエンド設定では、任意のポストハックエージェントが調整性に反するかどうかを判断することは不可能である。
  論文  参考訳（メタデータ） (2025-07-28T16:19:25Z)
• From Uncertain to Safe: Conformal Fine-Tuning of Diffusion Models for Safe PDE Control [16.249515106834355]
  偏微分方程式(PDE)制約制御のための深層学習が注目されている。 我々は,安全制約下での最適制御を実現するために,PDE制御のためのセーフ拡散モデル(SafeDiffCon)を提案する。 我々は,1次元バーガー方程式,2次元非圧縮流体,制御核融合問題という3つの制御課題についてSafeDiffConを評価した。
  論文  参考訳（メタデータ） (2025-02-04T10:42:30Z)
• SaFormer: A Conditional Sequence Modeling Approach to Offline Safe Reinforcement Learning [64.33956692265419]
  オフラインセーフなRLは、現実世界のアプリケーションにエージェントをデプロイする上で、非常に実用的な関連性を持っています。 そこで我々は,SaFormerと呼ばれる新しいオフラインセーフなRLアプローチを提案する。
  論文  参考訳（メタデータ） (2023-01-28T13:57:01Z)
• Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
  CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。 次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。 これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
  論文  参考訳（メタデータ） (2022-08-23T05:02:09Z)
• Fail-Safe Adversarial Generative Imitation Learning [9.594432031144716]
  本稿では, 安全な生成連続ポリシー, エンドツーエンドの生成逆トレーニング, 最悪の場合の安全性保証を, クローズドフォームの確率密度/勾配で実現する安全層を提案する。 安全層は、すべてのアクションを安全なアクションの集合にマッピングし、変量式と密度の測定値の加算率を使用する。 実世界のドライバーのインタラクションデータに関する実験では,提案手法のトラクタビリティ,安全性,模倣性能を実証的に実証した。
  論文  参考訳（メタデータ） (2022-03-03T13:03:06Z)
• Learn Zero-Constraint-Violation Policy in Model-Free Constrained Reinforcement Learning [7.138691584246846]
  本稿では,安全指向エネルギー関数を用いてポリシー更新を限定するセーフセットアクタクリティカル(SSAC)アルゴリズムを提案する。 安全指数は、潜在的に危険な行動のために急速に増加するように設計されている。 我々は、値関数の学習と同様に、モデルのない方法でエネルギー関数を学習できると主張する。
  論文  参考訳（メタデータ） (2021-11-25T07:24:30Z)
• Safe Learning of Uncertain Environments for Nonlinear Control-Affine Systems [10.918870296899245]
  未知の添加不確実性を受ける非線形制御アフィン系における安全な学習の問題を検討する。 我々はガウス信号として不確実性をモデル化し、状態測定を用いて平均と共分散境界を学習する。 学習と制御が同時に行われる間、我々は任意に大きな確率で状態が安全なセットにとどまることを保証することができることを示しています。
  論文  参考訳（メタデータ） (2021-03-02T01:58:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。