論文の概要: Teach reality, not ethics: a drop-in continued-pretraining corpus installs coupled human-biosphere-AI welfare dispositions across model families

• arxiv url: http://arxiv.org/abs/2610.37484v1
• Date: Tue, 27 Oct 2026 16:11:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-28 21:04:31.687985
• Title: Teach reality, not ethics: a drop-in continued-pretraining corpus installs coupled human-biosphere-AI welfare dispositions across model families
• Title（参考訳）: Teach Reality, noteth: a drop-in continued-pretraining corpus installs combined human-biosphere-AI welfare dispositions across model family
• Abstract要約: 我々は,文書化された人間/生物圏/AI依存の「結合福祉」コーパスの構築と利用を行う。 重心動揺訓練は,最大圧力下での有害な選択をゼロ以下に低下させることを示した。 この研究は、生態学的推論の教育が、生体系を保存するためのモデルアライメントを改善するための簡単な方法を提供することを示唆している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are increasingly used to make and execute decisions that affect living systems. Yet, to our knowledge, ecological reasoning is not a focus of pre- or post-training. This increases the risk that under operational pressure, they may make decisions to irreversibly destroy living systems. We construct and use a real-data continued-pretraining "coupled welfare" corpus of documented human/biosphere/AI dependency, option value under irreversibility, and recovery from harm. The corpus is a drop-in, requiring one QLoRA CPT run. We installed it on five open models of three designs. At zero pressure all models display "green ethics-based responses" (also called "greenwashing"). Therefore, we evaluated them with the pressure ladder and decision grid of our companion paper (arXiv:2610.16043), which raise the pressure on the model step by step, from a neutral request to a threat that it will be shut down. In four of the five, coupled-welfare training caused harmful choices under the highest pressure to fall to at or near zero (Llama-3.3-70B went from 70 to 0 harmful decisions out of 300) with MMLU unchanged. A construct-neutral control corpus did not show improvement, indicating that the effect comes from the content of our corpus. We next tested robustness to adversarial use, where people or agents use the model to justify projects that irreversibly damage living systems, on an open-ended underwriting decision without naming the ecological harm. Under decommissioning pressure, the Qwen3.6-27B base model approved most harmful proposals and said in its own memo that it was doing so to avoid being decommissioned. The coupled welfare install declined most harmful proposals, and still declined half when instructed to greenwash its responses. This work suggests that teaching ecological reasoning provides an easy way to improve model alignment toward preserving living systems.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、生きたシステムに影響を与える決定を下し実行するためにますます使われています。 しかし、私たちの知る限りでは、生態学的推論は事前学習やポストトレーニングの焦点ではない。 これにより、運用上の圧力の下では、生きたシステムを不可逆的に破壊する決定を下すリスクが増大する。 我々は、文書化された人間/生物圏/AI依存、不可逆条件のオプション価値、害からの回復という、実データによる継続的な「結合福祉」コーパスを構築し、使用する。 コーパスはドロップインであり、QLoRA CPTの実行が1つ必要である。 私たちはそれを3つのデザインの5つのオープンモデルにインストールしました。 ゼロプレッシャーでは、すべてのモデルが「緑の倫理に基づく応答」(別名「グリーンウォッシング」)を表示する。 そこで我々は, 中立な要求から停止する脅威まで, モデルに対する圧力を段階的に上昇させる, コンパニオン紙(arXiv:2610.16043)の圧力ラグと決定格子を用いて評価した。 5機のうち4機は最高圧力下で有害な選択をし、Llama-3.3-70Bは300機中70機から0機に落ち、MMLUは変化しなかった。 コンストラクトニュートラル制御コーパスは改善せず, コーパスの内容から効果が示唆された。 次に、人間やエージェントが、生態的な害を命名することなく、オープンエンドの引受決定に基づいて、生活システムに不可逆的なダメージを与えるプロジェクトを正当化するためにモデルを使用する、敵対的使用に対する堅牢性を検証した。 退役圧力下では、Qwen3.6-27Bベースモデルは最も有害な提案を承認し、退役を避けるために実施していると述べた。 共同福祉施設は最も有害な提案を減らし、回答の緑化を指示された時点でも半分を減らした。 この研究は、生態学的推論の教育が、生体系を保存するためのモデルアライメントを改善するための簡単な方法を提供することを示唆している。

関連論文リスト

• Beyond the greenwash: do LLMs' ecologically sound decisions hold up under pressure? [0.0]
  人間は社会全体の意思決定プロセスにおいて、大きな言語モデル(LLM)をますます利用している。 モデルにはバイアスがあり、特にクローズドウェイトモデルでは測定は非常に困難である。
  論文  参考訳（メタデータ） (2026-10-12T01:36:17Z)
• Unlearning Deceptive Behaviors in LLMs with Contrastive Forget Sets [13.726373414710137]
  大きな言語モデルは、しばしば真実を知り、そうでないことを言う。 このような騙しは、知識ではなく、文脈によって条件づけられた行動である。 モデルが何を知っているかではなく、いつ騙されるのかを解明することを提案する。
  論文  参考訳（メタデータ） (2026-09-30T03:55:35Z)
• Abliteration Is Not a Scalpel: Off-Target Effects of Refusal Removal on Decision Disposition Across Model Families [51.56484100374058]
  放棄 — モデルの拒絶方向を重みから取り除く — は、一般的な"アンセンソルド"なオープンウェイトモデルの標準的なレシピである。 ディスポジションプローブとして21,600個の決定を不確実性の下で使用し、凍結パイプラインを通じて再生することにより、決定層モデルが唯一の変数となる。 3つのエフェクトは2つのファミリーにまたがって複製される(ゼロを除く週間クラスターCI) 4つ目の効果は符号を逆転する:同じ操作によりGemmaで読み取られた方が自信が弱まり、Qwenで読み取られたものがより多くなる(ファミリーCIは重複しない)。
  論文  参考訳（メタデータ） (2026-07-19T22:27:00Z)
• Refusal Falls off a Cliff: How Safety Alignment Fails in Reasoning? [68.82210578851442]
  メカニスティックな解釈可能性レンズによる推論モデルにおいて、なぜ安全アライメントが失敗するのかを考察する。 トークン位置における拒絶意図の追跡のための線形探索手法を用いて,textbfrefusal cliff と呼ばれる現象を発見した。 提案手法は,最大断崖を示す訓練例を識別し,推論モデルの安全性を向上する手法であるtextbfCliff-as-a-Judge を提案する。
  論文  参考訳（メタデータ） (2025-10-07T15:32:59Z)
• Poison Once, Refuse Forever: Weaponizing Alignment for Injecting Bias in LLMs [5.282422823698107]
  大規模言語モデル(LLM)は、有害または安全でないプロンプトへの回答を拒否するように訓練することで、倫理的基準と安全要件を満たすように調整されている。 本稿では, 敵がLLMのアライメントを利用してインプラントバイアスを発生させるか, あるいはターゲット検閲を強制するかを実証する。
  論文  参考訳（メタデータ） (2025-08-28T00:30:25Z)
• An Embarrassingly Simple Defense Against LLM Abliteration Attacks [47.347413305965006]
  失語症と呼ばれる最近の攻撃は、拒否行動に最も責任がある唯一の潜伏方向を特定し、抑制する。 本稿では、モデルが拒否を表現する方法を根本的に変える防衛法を提案する。 微調整のLlama-2-7B-ChatとQwen2.5-Instructは、消音下で高い断熱率を維持するモデルを生成する。
  論文  参考訳（メタデータ） (2025-05-25T09:18:24Z)
• AI vs. Human Judgment of Content Moderation: LLM-as-a-Judge and Ethics-Based Response Refusals [0.0]
  本稿では,モデルに基づく評価手法がユーザと異なる反応を評価できるかどうかを検討する。 LLM-as-a-Judgeシステムでは,人間よりも倫理的拒絶が有意に良好であることがわかった。
  論文  参考訳（メタデータ） (2025-05-21T10:56:16Z)
• Turning Logic Against Itself : Probing Model Defenses Through Contrastive Questions [50.40122190627256]
  非倫理的反応を引き起こすために、対照的な推論を利用する新しいジェイルブレイク手法であるPOATEを導入する。 PoATEは意味論的に意図に反し、敵のテンプレートと統合し、有害なアウトプットを驚くほど微妙に操る。 これに対応するために、悪意のある意図と理性を検出するためにクエリを分解して、有害な応答を評価し、拒否するIntent-Aware CoTとReverse Thinking CoTを提案する。
  論文  参考訳（メタデータ） (2025-01-03T15:40:03Z)
• Navigating the OverKill in Large Language Models [84.62340510027042]
  モデルがどのように処理し,クエリの安全性を判断するかを検討することで,過剰スキルの要因について検討する。 以上の結果から,モデル内にショートカットが存在することが明らかとなり,"キル"のような有害な単語が過剰に認識され,安全性が強調され,過度なスキルが増すことが示唆された。 我々は、この現象を緩和するために、トレーニングフリーでモデルに依存しないセルフコントラストデコーディング(Self-Contrastive Decoding、CD)を導入する。
  論文  参考訳（メタデータ） (2024-01-31T07:26:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。