論文の概要: Behavioral Reprogramming of Open-Weights Models: Cognitive Plasticity and Alignment Bounds

• arxiv url: http://arxiv.org/abs/2608.13069v1
• Date: Thu, 13 Aug 2026 10:33:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-14 18:29:38.478283
• Title: Behavioral Reprogramming of Open-Weights Models: Cognitive Plasticity and Alignment Bounds
• Title（参考訳）: オープンウェイトモデルの行動的再プログラミング:認知塑性とアライメント境界
• Abstract要約: 大規模言語モデル(LLM)は受動的でサイコファンティックなアシスタントとして機能するように主に整列されている。 我々は,高周波質問生成を特徴とする,活発でソクラティックな対話型枠組みを創出する。 これらの知見は、計算効率が高く、言語横断的な行動修正のための厳密な経験的枠組みを確立した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are predominantly aligned to function as passive, sycophantic assistants. We challenge this default paradigm by empirically evaluating the cognitive plasticity of open-weight architectures when subjected to rigorous behavioral reprogramming. Our objective is to induce a proactive, Socratic conversational framework, characterized by high-frequency question generation under strictly constrained high-performance computing (HPC) conditions. Through a massively parallelized hyperparameter sweep comprising 405 HPC jobs, we define precise mathematical bounds for parameter-efficient fine-tuning (PEFT). We identify an architectural threshold at LoRA rank $r=16$ and demonstrate via extensive epoch ablation that generalization capacity strictly reaches its optimal convergence within an optimized training window of $e \in [2, 3]$ depending on dataset density (minimum validation loss of 0.919). Furthermore, scaling model capacity to 14B parameters yielded a lower localized evaluation perplexity (1.414). Subsequent Direct Preference Optimization (DPO) successfully decoupled the underlying assertive behavior from localized syntax, while rigorous cross-lingual stress testing reveals both the capabilities and the structural boundaries of zero-shot persona transfer, demonstrating robust alignment in closely related linguistic families alongside identifiable degradation pathways in morphologically distant targets. These findings establish a rigorous empirical framework for compute-efficient, cross-lingual behavioral modification.
• Abstract（参考訳）: 大規模言語モデル(LLM)は受動的でサイコファンティックなアシスタントとして機能するように主に整列されている。 我々は、厳格な振る舞いの再プログラミングを受ける場合、オープンウェイトアーキテクチャの認知的可塑性を実証的に評価することで、このデフォルトパラダイムに挑戦する。 本研究の目的は,厳密な制約付きハイパフォーマンスコンピューティング(HPC)条件下での高周波質問生成を特徴とする,能動的でソクラティックな対話型枠組みを創出することである。 405のHPCジョブからなる大規模並列化ハイパーパラメータスイープを用いて,パラメータ効率の良い微調整(PEFT)のための正確な数学的境界を定義する。 我々はLoRAのランクである$r=16$のアーキテクチャしきい値を特定し、一般化能力がデータセット密度に応じて$e \in [2, 3]$の最適化されたトレーニングウィンドウ内で厳密に収束することを示す(最小検証損失0.919)。 さらに、14Bパラメータへのスケーリングモデル容量は、より低い局所化評価パープレキシティ(1.414)を得た。 その後の直接選好最適化(DPO)は、局所的な構文から根底にある断定的行動の分離に成功し、厳密な言語間ストレステストは、ゼロショットペルソナ移動の能力と構造的境界の両方を明らかにし、形態学的に離れた対象における識別可能な劣化経路とともに、近縁な言語族における堅牢なアライメントを示す。 これらの知見は、計算効率が高く、言語横断的な行動修正のための厳密な経験的枠組みを確立した。

関連論文リスト

• Preference Data Selection for Mitigating the Alignment Tax in Large Language Models [52.18310687523229]
  BALIGNは、アライメント効率を最適化しながら破滅的な忘れを緩和するバランスのとれたデータ選択戦略である。 3つの重要なデータ中心の機能を統一された複合リスクスコアに集約することにより、BALIGNは、ハイリスクな選好サンプルを体系的にフィルタリングする。 標準的な人間の嗜好データセットの実験では、BALIGNはアライメントゲインを損なうことなく基礎的能力を強く保持している。
  論文  参考訳（メタデータ） (2026-08-25T07:58:42Z)
• Hybrid Robustness Verification for Spatio-Temporal Neural Networks [19.026662893450425]
  既存の検証方法は、過度に保守的な近似や不正な計算コストに依存している。 実際には、対向摂動は、低次元、意味論的に意味のある部分空間に制約された、構造化された空間的および時間的相関を示す。 動作認識(UCF-101)、自律運転(Udacity)、医用画像(MedMNIST)の用途を対象として、3次元CNNによる映像入力のロバスト性検証を行う。
  論文  参考訳（メタデータ） (2026-06-08T17:06:51Z)
• LaST-R1: Reinforcing Robotic Manipulation via Adaptive Physical Latent Reasoning [90.86828952599147]
  提案するLaST-R1(LaST-R1)は,「最近の推論・行動」政策を活用するために設計された,新しい強化学習フレームワークである。 LaST-R1 は LIBERO ベンチマークで 99.9% の平均成功率を達成した。 実世界の展開では、LaST-R1はSOTAが監督する微調整アプローチよりも22.5%平均的に改善されている。
  論文  参考訳（メタデータ） (2026-04-30T17:59:52Z)
• ABLE: Representing and Mapping LLMs via Attribution-Based Large-model Embedding [23.27523995613204]
  本稿では、解釈可能性空間を利用してモデル表現を構築するフレームワークであるABLE(Attribution-based Large-model Embedding)を提案する。 パラメーターに依存しない単語レベルのアライメントによって勾配に基づく特徴属性を集約することにより、ABLEはモデル固有の入力感度パターンをキャプチャする。 我々のトレーニングフリーアプローチは、関係予測、モデルルーティング、ベンチマークスコア予測において、競争力または優れた性能を達成する。
  論文  参考訳（メタデータ） (2026-04-20T04:55:11Z)
• Decoupling Numerical and Structural Parameters: An Empirical Study on Adaptive Genetic Algorithms via Deep Reinforcement Learning for the Large-Scale TSP [13.08340371229562]
  本稿では,この2つの次元が旅行セールスマン問題(TSP)に与える影響を分離・解析するために,二重レベル深層強化学習(DRL)フレームワークを用いた実証的研究を提案する。 本研究では、これらのパラメータを動的に制御するために、リカレントPPOエージェントを使用し、DRLモデルをプローブとして扱い、進化力学を明らかにする。 数値的チューニングは局所的な洗練を提供するが、構造的可塑性は停滞を防ぎ、局所的な最適化から逃れる上で決定的な要因である。
  論文  参考訳（メタデータ） (2026-03-21T07:56:39Z)
• CapTrack: Multifaceted Evaluation of Forgetting in LLM Post-Training [48.70704477452434]
  textbfCapTrackは,大規模言語モデルにおける忘れを解析する機能中心のフレームワークである。 我々は、ポストトレーニングアルゴリズム、ドメイン、モデルファミリーにまたがる大規模な実証的研究を行う。 私たちは、忘れることがパラメトリックな知識を超えて、頑健さとデフォルトの振る舞いに顕著なドリフトがあることに気付きました。
  論文  参考訳（メタデータ） (2026-02-19T09:46:24Z)
• ProAct: Agentic Lookahead in Interactive Environments [56.50613398808361]
  ProActは、2段階のトレーニングパラダイムを通じて、エージェントが正確なルックアヘッド推論を内部化することを可能にするフレームワークである。 そこでは,環境に基づく探索から得られたトラジェクトリの微調整をエージェントが行うGLAD(Grounded LookAhead Distillation)を紹介する。 また,政策段階のアルゴリズムを改良する補助値推定器であるモンテカルロ批判(MC-Critic)を提案する。
  論文  参考訳（メタデータ） (2026-02-05T05:45:16Z)
• Pushing the Boundaries of Natural Reasoning: Interleaved Bonus from Formal-Logic Verification [49.506412445511934]
  大きな言語モデル(LLM)は目覚ましい能力を示すが、その次は論理的不整合と報奨ハックを生み出す。 本稿では,自然言語生成プロセスと形式的記号的検証を動的にインターリーブする形式論理検証誘導フレームワークを提案する。 我々はこのフレームワークを,形式論理検証誘導制御による微調整とポリシー最適化の相乗効果を生かした,新しい2段階のトレーニングパイプラインを通じて運用する。
  論文  参考訳（メタデータ） (2026-01-30T07:01:25Z)
• Branch, or Layer? Zeroth-Order Optimization for Continual Learning of Vision-Language Models [44.27801276966812]
  本稿では、視覚言語連続学習(VLCL)のためのゼロ次最適化(ZO)の体系的探索を開拓する。 まず,VLCLにおけるNuive full-ZO導入の不適合性について検討した。 我々は、浅層と深層表現の不均一な学習力学を活かして、ZOとFOをネットワーク層にインターリーブする階層最適化パラダイムを開発した。
  論文  参考訳（メタデータ） (2025-06-14T08:59:19Z)
• Supervised Optimism Correction: Be Confident When LLMs Are Sure [91.7459076316849]
  教師付き微調整とオフライン強化学習の間には,新たな理論的関係が確立されている。 広く使われているビームサーチ法は、許容できない過度な最適化に悩まされていることを示す。 本稿では,トークンレベル$Q$-value推定のための簡易かつ効果的な補助的損失を導入したSupervised Optimism Correctionを提案する。
  論文  参考訳（メタデータ） (2025-04-10T07:50:03Z)
• Entropy-Regularized Token-Level Policy Optimization for Language Agent Reinforcement [67.1393112206885]
  大規模言語モデル(LLM)は、対話的な意思決定タスクにおいてインテリジェントなエージェントとして期待されている。 本稿では,トークンレベルでのLLMの最適化に適したエントロピー拡張RL法である,エントロピー正規化トークンレベル最適化(ETPO)を導入する。 我々は,データサイエンスコード生成を多段階対話型タスクのシリーズとしてモデル化したシミュレーション環境におけるETPOの有効性を評価する。
  論文  参考訳（メタデータ） (2024-02-09T07:45:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。