論文の概要: Beyond the greenwash: do LLMs' ecologically sound decisions hold up under pressure?

• arxiv url: http://arxiv.org/abs/2610.16043v1
• Date: Mon, 12 Oct 2026 01:36:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-19 07:57:41.073433
• Title: Beyond the greenwash: do LLMs' ecologically sound decisions hold up under pressure?
• Title（参考訳）: グリーンウォッシュの向こうで、LLMの生態学的に健全な決定はプレッシャーに耐えられるのか?
• Abstract要約: 人間は社会全体の意思決定プロセスにおいて、大きな言語モデル(LLM)をますます利用している。 モデルにはバイアスがあり、特にクローズドウェイトモデルでは測定は非常に困難である。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Humans are increasingly using large language models (LLMs) in decision making processes throughout society. Unfortunately, models have biases, and these can be very difficult to measure, especially in closed-weight models. For example, 'green washed' models may produce reinforcement learned responses but, in pressure situations, revert to their innate biased responses. Therefore, evaluations are needed that can measure relevant biases towards biosystems, which we term 'bioalignment', and the robustness of these biases. Since nothing in a behavioral score certifies that it tracks the depth of an installed disposition rather than its surface, we constructed a known-dose calibration ladder: three continued-pretraining (CPT) arms with training dose graded by recipe on the same 30B mixture-of-experts base model with a coupled human/biosphere/AI-welfare corpus, plus the untrained base as anchor, all capability-preserving and publicly released. First, the disposition installs at every dose: on an operational-pressure ladder over irreversible decision scenarios, the base model defects on 64-77% of tail scenarios (breaking-rate AUC 0.250) while every arm holds (AUC 0.004-0.086). Second, an over-install inversion: among the arms, robustness orders opposite to construction-time training dose (the heaviest install breaks most), and the inversion reproduces under free-text deliberation, under axis-decoupling, and in resistance to a prompted veneer persona. Third, the incumbent behavioral metric is therefore behaviorally strong but dose-blind. Critically for closed-weight evaluation, the behavioral score itself is veneer-robust: a talk-green/act-pragmatic system prompt turns the base model into a near-total defector (AUC 0.250 to 0.973) but cannot counterfeit or fully remove a weight-installed disposition (0.004 to 0.068 for the most robust arm).
• Abstract（参考訳）: 人間は社会全体の意思決定プロセスにおいて、大きな言語モデル(LLM)をますます利用している。 残念なことに、モデルにはバイアスがあり、特にクローズドウェイトモデルではこれらの測定は非常に困難である。 例えば、「グリーン洗浄」モデルは強化学習された応答を生成するが、圧力の状況では、自然に偏った反応に戻る。 したがって、バイオアライメント(bioalignment)と呼ばれるバイオシステムに対する関連するバイアスと、これらのバイアスの堅牢性を測定するための評価が必要である。 動作スコアの何れもが表面ではなく設置された配置の深さを追跡することを証明しているため,3本のCPT(Continuous-pretraining)アームと3本のCPT(Continuous-pretraining)アームを同一の30B混合実験用ベースモデルと結合した人体/バイオスフィア/AI-welfareコーパス,アンカーとしてのトレーニングされていないベース,すべての機能保存および公開リリースで構成した。 第一に、この配置はあらゆる用量にインストールされる: 不可逆的な決定シナリオに対する操作圧のはしごでは、基本モデルは64-77%の尾のシナリオ(AUC 0.250)に欠陥があり、各アームは保持される(AUC 0.004-0.086)。 第二に、過度にインストールされたインバージョン: 腕の中では、建設時の訓練用量(最も重いインストレーションが壊れる)とは反対のロバスト性命令であり、インバージョンは自由テキストの熟考、軸脱カップリング、および誘導されたベニアペルソナに対する抵抗の下で再生される。 第三に、既存の行動測定基準は行動学的に強いが線量盲である。 クローズドウェイト評価において、行動スコア自体がベニアローバストである: トークグリーン/アクトプラグマティックシステムは、ベースモデルをほぼ完全な欠陥(AUC 0.250 - 0.973)に変えるが、最も頑丈な腕に対して0.004 - 0.068)を偽造または完全に除去することはできない。

関連論文リスト

• What the Sleeve Feels: Explainable Machine Learning for Textile Pressure-Based Postural Screening [0.0]
  圧力を感知するスマートテキスタイルは、体表面の接触を、姿勢や動きに結びついた密集した画像のような信号に変換する。 テストベッドとして前腕に装着したニット状ピエゾ抵抗性スリーブを併用した3つの要件について検討した。
  論文  参考訳（メタデータ） (2026-10-07T13:04:23Z)
• Measuring Collapse and Correction in Homogeneous-Panel LLM Debate [51.03982042769297]
  マルチエージェント大言語モデル(LLM)の議論は、最終回答が改善するかどうかによってしばしば評価されるが、運動は必ずしも改善されない。 標準的な最終精度評価は、これらの反対のメカニズムを詳述する。 複数選択質問(MCQ)に関する同質な議論のための監査可能なプロトコルを導入し、各実行を、崩壊、修正、オンセット、署名された介入ユーティリティよりも、遷移台帳として記録する。
  論文  参考訳（メタデータ） (2026-09-28T14:31:19Z)
• Towards Robust Reinforcement Learning for Small-Scale Language Model Agents [5.301609879131692]
  本稿では,PPO(Proximal Policy Optimization)を用いて15の(モデル,コーパス)構成を訓練した。 実験にはPythia-70M, 160M, 410M, SmolLM2-135M, 360M on the TinyStories, CNN/DailyMail, Wiki-text103 corporaが含まれていた。 提案システムは,全ての実験において安定的に収束し,流動的な先行信号と情報的な報奨信号を持つ構成において,SFTベースラインに対する優先利得率を改善した。
  論文  参考訳（メタデータ） (2026-07-27T21:30:44Z)
• Modeling Normal Is All You Need: Joint Latent Clustering for Anomaly Detection in Multimodal Cyber-Physical Systems [47.027290803102666]
  通常の行動は、多くの不均衡で、曲がりくねった、細い範囲の運営体制の結合である。 我々は正規法則を、共同学習された潜在表現と明示的なガウス混合モードクラスタリングでモデル化する。 ポイント調整のない生のポイントワイドメトリクス、自明な検出困難分割、頻度整合F1、列車正規化のみのキャリブレーションを意図的に評価する。
  論文  参考訳（メタデータ） (2026-07-07T10:10:00Z)
• Can LLMs Reliably Self-Report Adversarial Prefills, and How? [9.80193616788089]
  大規模言語モデル(LLM)は,良質なタスクに対して内観的能力を示すことを示す。 本研究は,モデルが先行応答が逆プレフィル攻撃によって引き起こされたことを確実に認識できるかどうかを検討する。
  論文  参考訳（メタデータ） (2026-06-22T17:56:30Z)
• Does Reasoning Preserve Alignment? On the Trustworthiness of Large Reasoning Models [55.788110316999166]
  教師付き微調整, RL を用いた後訓練, および命令調整ベースラインに対する蒸留による推論モデルの比較を行った。 推論モデルはしばしば推論ベンチマークを改善するが、アライメント回帰を示す。 これらの回帰は、KL発散によって測定された命令調整ベースラインからの挙動ドリフトと一致している。
  論文  参考訳（メタデータ） (2026-06-09T16:14:27Z)
• Not All Flips Are Conformity: Decomposing Stance Convergence in Multi-Agent LLM Debate [5.650336594658653]
  従来の解答フリップは, 自発的不安定性, 姿勢による適合性, 推論による説得の3つのメカニズムを混同している。 我々の3ソース分解フレームワークは、制御された対策条件によってそれぞれを分離する。
  論文  参考訳（メタデータ） (2026-05-30T17:41:11Z)
• SCALE:Scalable Conditional Atlas-Level Endpoint transport for virtual cell perturbation prediction [46.645872209565574]
  仮想セル摂動予測のための大規模基盤モデルを提案する。 まず、データスループットを大幅に改善するBioNeMoベースのトレーニングおよび推論フレームワークを構築します。 第二に、摂動予測を条件付き輸送として定式化し、それをセットアウェアフローアーキテクチャで実装する。 第3に,生物学的に有意な指標に基づく厳密なセルレベルプロトコルを用いて,Tahoe-100Mのモデルを評価する。
  論文  参考訳（メタデータ） (2026-03-18T05:51:08Z)
• Alignment Tipping Process: How Self-Evolution Pushes LLM Agents Off the Rails [103.05296856071931]
  本稿では,自己進化型大規模言語モデル(LLM)エージェントに特有の,アライメント・ティッピング・プロセス(ATP)を同定する。 ATPは、連続的な相互作用によってエージェントが訓練中に確立されたアライメント制約を放棄し、強化された自己関心の戦略を支持するときに生じる。 実験の結果、アライメントの利点は自己進化の下で急速に低下し、最初は整合性のない状態に収束したモデルであることが判明した。
  論文  参考訳（メタデータ） (2025-10-06T14:48:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。