論文の概要: Safin-1: Safety from Within through Memory-Native State Evolution

• arxiv url: http://arxiv.org/abs/2609.00092v1
• Date: Mon, 31 Aug 2026 13:48:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-02 16:31:35.863836
• Title: Safin-1: Safety from Within through Memory-Native State Evolution
• Title（参考訳）: Safin-1: メモリ依存状態進化による内部からの安全性
• Abstract要約: Safin-1は、メモリルーティングと状態進化を通じてこの原理を実現する基礎モデルのファミリーである。 Safin-1 は、構造化メモリ状態を維持するネットワークアーキテクチャである Memory-Anchor Routing across Context History (MARCH) 上に構築されている。 安全状態を通じて下流の安全タスクにおけるこのインターフェースについて検討し,安全性を著しく向上した有効な状態ベース適応を実証する。
• 参考スコア（独自算出の注目度）: 51.221955257147414
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Long-horizon complex tasks require foundation models to accumulate information, maintain internal states, and adapt over extended interactions. Safety should be an intrinsic property of the model itself, rather than a behavioral constraint relying solely on external safeguards or post-hoc alignment such as supervised fine-tuning. This motivates Safety from Within, where safety-relevant capabilities are represented and invoked through the model's native computation. We present Safin-1, a family of foundation models realizing this principle through memory routing and state evolution. Safin-1 is built on Memory-Anchor Routing across Context History (MARCH), a network architecture that maintains structured memory states and selectively retrieves relevant historical information through content-conditioned routing. It supports test-time adaptation of persistent capability states without repeatedly modifying the backbone, enabling controlled specialization over a shared foundation. We investigate this interface on downstream safety tasks through a Safety State, demonstrating effective state-based adaptation with substantial safety improvements. More broadly, the routed-state interface unifies contextual memory and persistent capability adaptation within the model's native computation, reframing memory from a passive record of prior context into an active substrate for maintaining and evolving model behavior. Evaluations across general capabilities, long-context understanding, retrieval, and efficiency further validate Safin-1. These findings provide a path toward safety as a state-native and adaptively maintainable capability. This work is only an initial architectural exploration of Safety from Within, and substantial further work is needed to realize this broader vision.
• Abstract（参考訳）: 長期の複雑なタスクは、情報を蓄積し、内部状態を維持し、拡張された相互作用に適応するために基礎モデルを必要とする。 安全は、外部の安全ガードや監督された微調整のようなポストホックアライメントにのみ依存する行動的制約ではなく、モデル自体の本質的な性質であるべきである。 これにより、モデル固有の計算を通じて安全関連機能が表現され、呼び出される内部からの安全を動機付ける。 本稿では、メモリルーティングと状態進化により、この原理を実現する基礎モデルであるSafin-1を紹介する。 Safin-1 は Memory-Anchor Routing across Context History (MARCH) 上に構築されている。 バックボーンを何度も変更することなく、永続的な機能状態のテスト時適応をサポートし、共有基盤上で制御された特殊化を可能にする。 安全状態を通じて下流の安全タスクにおけるこのインターフェースについて検討し,安全性を著しく向上した有効な状態ベース適応を実証する。 より広範に、ルート状態インターフェースは、モデルのネイティブな計算内でコンテキストメモリと永続的な能力適応を統一し、以前のコンテキストの受動的レコードからモデル動作の維持と進化のためのアクティブな基質にメモリをフレーミングする。 一般的な機能、長期コンテキストの理解、検索、効率などにわたる評価は、Safin-1をさらに検証する。 これらの知見は、国家ネイティブで適応的に維持可能な能力として、安全への道を提供する。 この作業は、内部からの安全に関する最初のアーキテクチャ調査であり、このより広いビジョンを実現するためには、さらに大きな作業が必要である。

関連論文リスト

• Do Models Share Safety Representations? Cross-Model Steering for Safe Visual Generation [52.122731171289665]
  クロスモデル安全ステアリングのための最初のフレームワークを紹介する。 私たちのパイプラインは、ターゲット側の安全でないデータにアクセスしません。 多様なソース・ターゲット・モデル・ペア間のテキスト・ツー・イメージとテキスト・ツー・ビデオ生成におけるアプローチを評価する。
  論文  参考訳（メタデータ） (2026-06-03T18:00:04Z)
• RefusalGuard: Geometry-Preserving Fine-Tuning for Safety in LLMs [5.100622189286672]
  下流タスクのための微調整型セーフティアライメント言語モデルは、拒否動作を著しく低下させる可能性がある。 本稿では,モデル適応時の安全関連構造を保存する表現レベルの微調整フレームワークREFUSALGUARDを紹介する。
  論文  参考訳（メタデータ） (2026-05-03T14:48:18Z)
• PoSafeNet: Safe Learning with Poset-Structured Neural Nets [49.854863600271614]
  既存のアプローチは、しばしば複数の安全制約を均一に、または固定された優先命令によって強制し、実現不可能と不安定な振る舞いを引き起こす。 我々は、この設定を擬似構造的安全性として定式化し、安全制約を部分的に順序づけられた集合としてモデル化し、安全構成を政策クラスの構造的特性として扱う。 この定式化に基づいて、逐次クローズドフォームプロジェクションを介して安全性を強制する、識別可能な神経安全層であるPoSafeNetを提案する。
  論文  参考訳（メタデータ） (2026-01-29T22:03:32Z)
• SafeRedir: Prompt Embedding Redirection for Robust Unlearning in Image Generation Models [67.84174763413178]
  我々はSafeRedirを紹介した。SafeRedirは、迅速な埋め込みリダイレクトによる堅牢なアンラーニングのための軽量な推論時フレームワークである。 SafeRedirは,効果的な非学習能力,意味的・知覚的保存能力,堅牢な画像品質,対人攻撃に対する耐性の向上を実現している。
  論文  参考訳（メタデータ） (2026-01-13T15:01:38Z)
• SafeCast: Risk-Responsive Motion Forecasting for Autonomous Vehicles [12.607007386467329]
  リスク応答型モーション予測モデルであるSafeCastを提案する。 安全を意識した意思決定と不確実性を意識した適応性を統合する。 我々のモデルは、軽量なアーキテクチャと低推論レイテンシを維持しながら、最先端(SOTA)の精度を実現する。
  論文  参考訳（メタデータ） (2025-03-28T15:38:21Z)
• Learning Vision-Based Neural Network Controllers with Semi-Probabilistic Safety Guarantees [24.650302053973142]
  本稿では, 到達可能性解析と条件付き生成逆数ネットワークを統合した, 半確率的検証フレームワークを提案する。 次に, 新たな安全損失関数, 安全対応型データサンプリング戦略, カリキュラム学習を活用した勾配学習手法を提案する。 X-Plane 11航空機の着陸シミュレーション, CARLAシミュレーションによる自律走行車線, F110thレーンの視覚的に豊かなミニチュア環境下での実証実験により, 本手法の有効性が証明された。
  論文  参考訳（メタデータ） (2025-02-28T21:16:42Z)
• Safe Reinforcement Learning with Learned Non-Markovian Safety Constraints [15.904640266226023]
  我々は、安全に関する部分的状態行動軌跡の貢献を評価するために、信用割当を行う安全モデルの設計を行う。 学習された安全モデルを用いて安全なポリシーを最適化する有効なアルゴリズムを導出する。 安全報酬と安全コンプライアンスのトレードオフ係数を動的に適用する手法を考案する。
  論文  参考訳（メタデータ） (2024-05-05T17:27:22Z)
• Evaluating Model-free Reinforcement Learning toward Safety-critical Tasks [70.76757529955577]
  本稿では、国家安全RLの観点から、この領域における先行研究を再考する。 安全最適化と安全予測を組み合わせた共同手法であるUnrolling Safety Layer (USL)を提案する。 この領域のさらなる研究を容易にするため、我々は関連するアルゴリズムを統一パイプラインで再現し、SafeRL-Kitに組み込む。
  論文  参考訳（メタデータ） (2022-12-12T06:30:17Z)
• Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
  CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。 次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。 これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
  論文  参考訳（メタデータ） (2022-08-23T05:02:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。