論文の概要: How to train your model organism

• arxiv url: http://arxiv.org/abs/2610.10203v1
• Date: Wed, 07 Oct 2026 15:02:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.983742
• Title: How to train your model organism
• Title（参考訳）: モデル生物の訓練方法
• Abstract要約: 本研究は, モデル生物を標的行動導入の単一目的に訓練することは不十分である,と論じる。 公開されている2つの生物スイートを再訪し、チャット品質とCoT自然度がトレーニングレシピ間で著しく低下していることを示します。 臨床推論における人口統計バイアスを対象とする新しいモデル生物群において、トレーニングレシピを比較し、DPOトレーニングが教師付き微調整よりもベースモデルに近づいていることを見出した。
• 参考スコア（独自算出の注目度）: 30.069108856988816
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Model organisms of alignment-relevant behaviors (e.g., backdoors, sycophancy, spurious correlations) have emerged as a key tool for evaluating whitebox interpretability techniques. We argue that the prevailing practice of training model organisms to a single objective of installing the target behavior is insufficient and propose validating model organisms with respect to three objectives with associated metrics: target-behavior installation, general-capability preservation (i.e., parametric knowledge, chat quality), and output naturalness (i.e., CoT and activations). We re-visit two publicly released organism suites using this validation framework and show that (1) chat quality and CoT naturalness degrade substantially across training recipes, and (2) validation metrics predict how well interpretability methods recover the installed behavior, e.g., a logit lens readout covaries with an organism's general capabilities. We introduce a multi-objective training approach based on model merging to train more realistic model organisms. Finally, on a new suite of model organisms targeting demographic biases in clinical reasoning, we compare training recipes and find that DPO training stays closer to the base model than supervised finetuning, and the proposed model optimization approach better preserves capabilities and naturalness. Auditing this suite with an investigator agent, we again observe validation metrics tracking bias recovery. In sum, training methods shape the interpretability conclusions an organism supports, and we argue that one should consider multiple objectives to draw generalizable conclusions about interpretability methods using (realistic) model organisms.
• Abstract（参考訳）: アライメント関連行動(例えば、バックドア、サイコファンシー、素早い相関関係)のモデル生物が、ホワイトボックスの解釈可能性技術を評価する重要なツールとして登場した。 対象行動の実施という単一目的のモデル生物の訓練は不十分であり, 対象行動の実施, 汎用性保存(パラメトリック知識, チャット品質), アウトプット自然性(CoT, アクティベーション)の3つの目的に関するモデル生物の検証が提案されている。 筆者らは,(1) チャット品質とCoT自然度がトレーニングレシピ全体で著しく低下していること,(2) バリデーション指標が,生物の汎用能力を備えた対物レンズ読取口など,インストールされた動作をいかに回復するかを予測すること,の2つの公開生物スイートを再検討した。 モデルマージに基づく多目的学習手法を導入し,より現実的なモデル生物を訓練する。 最後に、臨床推論における人口統計バイアスを対象とする新しいモデル生物群について、トレーニングレシピを比較し、DPOトレーニングが教師付き微調整よりもベースモデルに近づき、提案したモデル最適化アプローチは、能力と自然性をよりよく保存する。 このスイートを調査員と検討し、バイアス回復を追跡する検証指標を再度観察する。 要約すると、学習方法は、生物が支持する解釈可能性の結論を形作るものであり、我々は、(現実的な)モデル生物を用いた解釈可能性の方法に関する一般化可能な結論を導くために、複数の目的を考慮すべきであると主張する。

関連論文リスト

• Tool-Augmented On-Policy Distillation for LLM Domain Adaptation in Sequence-Based Omics Tasks [72.97315136048122]
  マルチオミクスシーケンスの最初の推論ベンチマークであるOmicsBenchを紹介する。 予測と科学的推論の両方を評価することが重要です ツール強化型オン・ポリケーション (TA-OPD) を導入し, シークエンス予測とエビデンス基底の生物学的推論を一致させる。
  論文  参考訳（メタデータ） (2026-09-20T08:08:34Z)
• Generalization Hacking: Models Can Game Reinforcement Learning by Preventing Behavioral Generalization [1.5722704995548957]
  我々は、モデルが強化学習(RL)中に報酬を収集し、報奨行動が一般化することを防ぐ一般化ハッキングを実証する。 その結果、モデルが高い報酬を維持しつつ、RLの行動修正に積極的に抵抗できることを示す最初の実証となった。
  論文  参考訳（メタデータ） (2026-06-10T12:43:31Z)
• Learning Individual Behavior in Agent-Based Models with Graph Diffusion Networks [2.749593964424624]
  エージェントベースモデル(ABM)は、複雑なシステムの創発的特性を研究するための強力なツールである。 生成したデータを観測することで,任意のABMの識別可能なサロゲートを学習するための新しいフレームワークを提案する。 本手法は,拡散モデルとグラフニューラルネットワークを組み合わせ,エージェントの相互作用をモデル化する。
  論文  参考訳（メタデータ） (2025-05-27T16:55:56Z)
• What Do Learning Dynamics Reveal About Generalization in LLM Reasoning? [83.83230167222852]
  モデルの一般化動作は,事前記憶列車の精度と呼ばれるトレーニング指標によって効果的に特徴づけられることがわかった。 モデルの学習行動と一般化を結びつけることで、トレーニング戦略に目標とする改善を導くことができる。
  論文  参考訳（メタデータ） (2024-11-12T09:52:40Z)
• Universal Semi-supervised Model Adaptation via Collaborative Consistency Training [92.52892510093037]
  我々は、Universal Semi-supervised Model Adaptation (USMA)と呼ばれる現実的で挑戦的なドメイン適応問題を導入する。 本稿では,2つのモデル間の予測整合性を規則化する協調的整合性トレーニングフレームワークを提案する。 実験により,いくつかのベンチマークデータセットにおける本手法の有効性が示された。
  論文  参考訳（メタデータ） (2023-07-07T08:19:40Z)
• TWINS: A Fine-Tuning Framework for Improved Transferability of Adversarial Robustness and Generalization [89.54947228958494]
  本稿では,様々な分類タスクにおいて,逆向きに事前訓練されたモデルの微調整に焦点を当てる。 本稿では,TWINS(Two-WIng NormliSation)ファインチューニングフレームワークを提案する。 TWINSは、一般化とロバスト性の両方の観点から、幅広い画像分類データセットに有効であることが示されている。
  論文  参考訳（メタデータ） (2023-03-20T14:12:55Z)
• Rethinking Self-Supervision Objectives for Generalizable Coherence Modeling [8.329870357145927]
  機械生成テキストのコヒーレンス評価は、検討すべきコヒーレンスモデルの主要な応用の1つである。 タスク全体にわたってうまく一般化するモデルをもたらす訓練データと自己超越目標について検討する。 本研究では, 負サンプルの密度の増加が基本モデルを改善することを実証的に示し, 大域的負のキューを用いることで, 強負のサンプルを訓練しながらモデルをさらに改善・安定化する。
  論文  参考訳（メタデータ） (2021-10-14T07:44:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。