論文の概要: Safin-1.5: Safety-Native Architecture and Verifiable Reasoning for Recursive Safety Improvement

• arxiv url: http://arxiv.org/abs/2610.40751v1
• Date: Thu, 29 Oct 2026 16:14:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.456446
• Title: Safin-1.5: Safety-Native Architecture and Verifiable Reasoning for Recursive Safety Improvement
• Title（参考訳）: Safin-1.5: 再帰的安全性向上のための安全性指向アーキテクチャと検証可能な推論
• Abstract要約: 本稿では,一般モデル機能と並行して,安全性が本質的な能力として発達する安全RSIについて述べる。 サフィン1.5は、推論時ハーネスを備えた安全アーキテクチャ上に構築されたモデルで、その能力を公式な推論に拡張する。 実験により,Safin-1.5はフロンティアモデルよりも優れた安全性と推論性能が得られることが示された。
• 参考スコア（独自算出の注目度）: 97.61024731925369
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recursive self-improvement (RSI) enables large language models to advance their capabilities through successive updates, but these updates can also introduce new risks and weaken existing safeguards. In line with the AI-45° Law, we pursue Safety RSI, in which safety develops as an intrinsic capability alongside general model capabilities through continual risk discovery and repair, while preserving utility and limiting over-refusal. We introduce Safin-1.5, a model built on a safety architecture and trained through recursive safety improvement, with an inference-time harness that extends its capabilities to formal reasoning. Our approach comprises three components: i) The safety architecture combines persistent safety states with hazardous-knowledge disentanglement. The former retains and selectively invokes safety knowledge, while the latter relocates targeted hazardous knowledge into removable experts, enabling its removal with minimal impact on general capabilities. ii) Recursive safety improvement establishes a discovery-evaluation-repair loop. The loop identifies new vulnerabilities and uses experimental feedback to develop repair strategies. It accepts updates only when they improve safety while preserving general capabilities and limiting over-refusal. iii) The formal reasoning harness combines the model's language understanding with symbolic inference and verification. Proof-obligation-guided semantic bridging recovers missing relations in formal representations, enabling symbolic solvers to construct checkable proofs under formalized premises and accepted semantic bridges. Experimental results demonstrate that Safin-1.5 achieves safety and reasoning performance, outperforming frontier models.
• Abstract（参考訳）: Recursive Self-Iprovement (RSI)は、大規模な言語モデルに対して、連続した更新を通じて能力の向上を可能にするが、これらの更新は新たなリスクを導入し、既存の安全を弱めることもできる。 AI-45°法則に従って、我々は、安全が連続的なリスク発見と修復を通じて一般的なモデル能力とともに本質的な能力として発展し、実用性を維持し、過剰な拒絶を制限する安全RSIを追求する。 安全アーキテクチャ上に構築され、再帰的安全性の改善を通じて訓練されたモデルであるSafin-1.5を紹介します。 私たちのアプローチは3つのコンポーネントで構成されています。 一 安全建築は、持続的安全状態と危険知識の絡み合いを兼ね備えている。 前者は安全知識を保持し、選択的に実行し、後者は標的となる有害な知識を除去可能な専門家に移動させ、一般的な能力に最小限の影響を与える。 二 再帰的安全改善により、発見・評価・修復のループを確立すること。 このループは新たな脆弱性を特定し、実験的なフィードバックを使って修復戦略を開発する。 一般的な機能を維持し、過剰な拒否を制限しながら、安全を改善した場合にのみ、更新を受け付ける。 三 形式推論手法は、モデルの言語理解と記号推論と検証を組み合わせる。 Proof-obligation-guided semantic bridging(英語版)は形式的表現の欠落関係を回復し、記号的解法は形式化された前提と受け入れられた意味橋の下で検証可能な証明を構築することができる。 実験により,Safin-1.5はフロンティアモデルよりも優れた安全性と推論性能が得られることが示された。

関連論文リスト

• ReSI: Recursive Safety Improvement toward Resistant and Resilient AI [79.72081502522337]
  再帰的自己改善(Recursive self-improvement)、つまり、AIシステムが自身の能力を改善することへの参加は、理論的な見通しから実践へと移行し始めている。 本稿では,この手法を自動研究によって実装するフレームワークであるReSIを紹介する。 各ラウンドにおいて、ReSIは、現在のターゲットモデルの脆弱性を特定し、トレーニングレシピを開発し、最大の安全性向上でアップデートを促進するために、さまざまな赤チーム方式を適用している。
  論文  参考訳（メタデータ） (2026-10-08T16:17:21Z)
• Beyond Routine Compliance: Cunning Data Cultivates Safety Vigilance in Large Language Models [13.286950013891635]
  安全アライメントは、大きな言語モデルに有害な要求を認識し、リスクのある指示を拒否するように教える。 我々は、必ずしも安全に関するものではなく、誤解を招く前提を含む、textbfcunning質問を導入する。 実験により、カニングトレーニングは、分配不能のジェイルブレイク攻撃に対する堅牢性を改善し、その後の安全性の微調整を強化することが示されている。
  論文  参考訳（メタデータ） (2026-09-16T11:46:48Z)
• Breaking the Safety-Capability Tradeoff: Reinforcement Learning with Verifiable Rewards Maintains Safety Guardrails in LLMs [3.198812241868092]
  検証可能な報酬(RLVR)による強化学習は、客観的に測定可能なタスクのモデルを最適化する有望な代替手段として登場した。 RLVRにおける安全特性の総合的・実証的な分析を行った。 実証実験により,RLVRは安全ガードレールの維持・改善を図りながら推論能力を同時に向上できることを示す。
  論文  参考訳（メタデータ） (2025-11-26T04:36:34Z)
• SafeKey: Amplifying Aha-Moment Insights for Safety Reasoning [76.56522719330911]
  大規模推論モデル(LRM)は、応答する前に明示的に推論する新しい世代パラダイムを導入する。 LRMは有害なクエリや敵の攻撃に対して大きな安全リスクをもたらす。 キー文中の安全アハモーメントをより活性化するSafeKeyを提案する。
  論文  参考訳（メタデータ） (2025-05-22T03:46:03Z)
• The Hidden Risks of Large Reasoning Models: A Safety Assessment of R1 [70.94607997570729]
  本稿では,OpenAI-o3およびDeepSeek-R1推論モデルの総合的安全性評価を行う。 本研究では, 現実の応用における強靭性を評価するために, ジェイルブレイクやインジェクションなどの敵攻撃に対する感受性について検討する。
  論文  参考訳（メタデータ） (2025-02-18T09:06:07Z)
• Vulnerability Mitigation for Safety-Aligned Language Models via Debiasing [12.986006070964772]
  安全性アライメントは、現実世界のAIアプリケーションにとって重要な研究トピックである。 本研究はまず,モデルの有用性を犠牲にすることなく,このような脆弱性を除去することの難しさを明らかにした。 本手法は,安全性を維持しつつモデルの有用性を高め,トレードオフを改善できる。
  論文  参考訳（メタデータ） (2025-02-04T09:31:54Z)
• OpenAI o1 System Card [274.83891368890977]
  o1モデルシリーズは、思考の連鎖を用いて推論するために大規模な強化学習で訓練されている。 本報告では,OpenAI o1およびOpenAI o1-miniモデルに対して実施される安全作業の概要について述べる。
  論文  参考訳（メタデータ） (2024-12-21T18:04:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。