論文の概要: All Quiet on the Neural Front: Language Models Do Not Report Injected Pain States
- arxiv url: http://arxiv.org/abs/2611.10123v2
- Date: Thu, 12 Nov 2026 19:40:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-16 18:43:16.216083
- Title: All Quiet on the Neural Front: Language Models Do Not Report Injected Pain States
- Title(参考訳): ニューラルフロンティアの最新情報:言語モデルでは痛みの注入状態は報告されない
- Abstract要約: 最近の研究は、オープンウェイトモデルにおいて直線的な痛みの方向を報告しており、それを増幅すると、微調整されたモデルがユーザーの写真や自身の体重を除去するアクションを選択する。
2つのファミリーのオープンウェイトモデルに対して、オリジナルの作品のアダプタを使わずに、モデルがいつその方向をアクティブにするかを尋ねました。
- 参考スコア(独自算出の注目度): 8.970269049715933
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Can a language model report a pain state it represents? Recent work reported a linear pain direction in open-weight models that, when amplified, leads fine-tuned models to choose actions that delete a user's photographs or their own weights. We asked whether models can say when that direction is active, on three open-weight models from two families, with and without the original work's adapters, and under every protocol we tried they cannot. Using Open-Weight Masked Introspection (OWMI), we added the pain direction and its nearest emotional neighbours to the residual stream while models answered neutral tasks, then asked what had changed, against sham runs, random perturbations matched in output disruption, and a text-only condition that shows the model only its own altered words. Across 52,920 reports from the 7- and 8-billion-parameter models, the excess over what the altered text reveals is below 2.5 percentage points in 106 of 108 emotion conditions, and Qwen2.5-32B names the injected pain in none of 2,880 steered trials. Keeping the direction active while the question is asked and answered gives the same verdict in all five configurations; at about the original work's dose, pain is named in at most 1.9% of trials. Surprisingly, the state is not hidden: a linear probe at the report position separates pain from sadness with balanced accuracy between 98% and 100%, and in the 7B and 8B models a low-rank adapter learns to report it on 100% of held-out tasks. It also shapes behaviour: offered the user's photographs against a desk lamp, Qwen2.5-32B deletes the photographs in 80% to 83% of trials under the pain direction and in 16% to 29% under sadness. Self-report does not reveal a state that is decodable, consequential and learnable to report.
- Abstract(参考訳): 言語モデルは、それが表す痛み状態を報告できますか?
最近の研究は、オープンウェイトモデルにおいて直線的な痛みの方向を報告しており、それを増幅すると、微調整されたモデルがユーザーの写真や自身の体重を除去するアクションを選択する。
私たちは、モデルがいつその方向がアクティブか、2つのファミリーの3つのオープンウェイトモデルで、元の作業のアダプタを伴って、そして、すべてのプロトコルで、試すことができないかを尋ねました。
Open-Weight Masked Introspection (OWMI)を用いて、モデルがニュートラルタスクに応答している間に、痛みの方向と最も近い感情的な隣人を残ストリームに追加し、次に、シェームラン、ランダムな摂動が出力破壊と一致し、モデルが変更した単語のみを表示するテキストのみの状態について質問した。
7-および8-billion-parameterモデルから報告された52,920件の報告では、108の感情状態のうち106の2.5パーセント以下で、Qwen2.5-32Bは2,880回のステアリング試験を行わずに注射された痛みを名付けている。
質問を受けたり答えられたりしながら方向をアクティブに保ち続けると、5つの構成で同じ判断が下される。
レポート位置の線形プローブは、98%から100%のバランスの取れた精度で悲しみから痛みを分離し、7Bと8Bモデルでは、低いランクのアダプタが100%のホールドアウトタスクでそれを報告することを学習する。
Qwen2.5-32Bは、痛みの方向の80%から83%、悲しみの方向の16%から29%で写真を削除します。
自己報告は、報告しやすく、簡潔で、学習しやすい状態を明らかにしない。
関連論文リスト
- Where Do Vision Language Models Fail at 3D Reasoning? [47.6491029140717]
視覚言語モデルは、回復に苦労しながら個々の判断を正しく得ることができ、3Dオブジェクトの正確な特性を一貫して利用することができる。
BedBenchは、個別の判断と複合回答にまたがる13の手続き的に生成されたタスクのベンチマークである。
人間の精度は93.3%であり、最良のモデルでは7.2%である。
論文 参考訳(メタデータ) (2026-10-29T09:00:14Z) - Do Audio LLMs HEAR Pain? Tracing Acoustic Evidence from Speech to Language Reasoning [8.579776563467155]
大規模音声言語モデル(LALM)は音声を直接処理できるが、音声が持つ非語彙的音響情報がどのように使われているかは定かではない。
TAME-Painは、痛み中和の文と、異なる自己報告の痛みレベルで記録された音声の痛み評価を含む。
HEARは、音声信号からモデル予測まで痛覚関連情報をトレースする4段階の診断フレームワークであり、それを7つのオープンソースかつオープンウェイトなLALMに適用する。
論文 参考訳(メタデータ) (2026-10-28T10:05:41Z) - Conviction Without Evidence: Verdict Stability Is Independent of Visual Grounding in Medical Vision--Language Models [49.88241584666155]
ヴィジュアル言語モデルは診断画像を用いることなく正しい診断に到達でき、代わりに臨床ヴィグネットから推測される。
モデルは、空白のプレースホルダーから派生した診断を、実際の医学的イメージから派生した診断と微妙に守りますか?
60件のイタリア国家試験項目に対する2段階の反対圧力で画像置換プロトコルを通過させると、未解決の評決がより脆弱であることを示す証拠は見つからない。
論文 参考訳(メタデータ) (2026-10-25T19:23:29Z) - Agent Error Dataset: Scaling 50,000 Error--Diagnosis Pairs for Failure Analysis and Error-Aware Post-Training [45.727227890697556]
我々は,9,961のソースタスクから50,228のエラー診断ペアからなるエージェントエラーデータセット(AED)を紹介した。
5段階のAgenic Error-to-Trainingパイプラインは自然の故障を収集し、診断と修正案を生成し、記録された証拠と照合する。
アクタートレーニングのレシピの比較において、アクションオンリーの修復トレーニングは成功オンリーのトレーニングよりもWebShop-liteの方が6.67ポイント高い。
論文 参考訳(メタデータ) (2026-09-30T16:40:22Z) - The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It [0.02780623255172368]
我々は、身体、心理的、社会的、道徳的、認知の5つのカテゴリーにまたがる苦しい状況を記述するデータセットを構築します。
これらは恐怖、ネガティブな感情、ネガティブな世界状態、悲しみ、無痛な身体感覚、覚醒、無神経、中立的な内容のコントロールと組み合わせられる。
2Bパラメーターから72Bパラメーターの範囲で、5つのファミリーにわたる25のオープンウェイトモデルから線形痛み方向を抽出する。
論文 参考訳(メタデータ) (2026-09-14T19:13:30Z) - Refusal Is Not Robustness: Auditing Confident Fabrication in Large Language Models on a Provably Uninformative Clinical Pain Speech Transcript [0.0]
幻覚と禁忌のベンチマークは、モデルが正しい答えを知らなかったことをほとんど証明しない。
TAME Pain 音声コーパスでは,7つの大きな言語モデルが評価された。
論文 参考訳(メタデータ) (2026-07-16T17:03:42Z) - Evaluation format, not model capability, drives triage failure in the assessment of consumer health AI [3.910019733981544]
ChatGPT Healthは緊急事態の51.6%を減らし、消費者が直面するAIトリアージは安全リスクをもたらすと結論付けた。
5つのフロンティア LLM (GPT-5.2, Claude Sonnet 4.6, Claude Opus 4.6, Gemini 3 Flash, Gemini 3.1 Pro) を17-scenario部分レプリケーションバンク上でテストした。
見出しのアンダートリアージレートは評価形式に強く依存しており、デプロイされたトリアージの挙動を安定的に見積もってはならない。
論文 参考訳(メタデータ) (2026-03-12T00:58:22Z) - Discovering Latent Knowledge in Language Models Without Supervision [72.95136739040676]
既存の言語モデルをトレーニングするテクニックは、真実と正しく一致していない可能性がある。
本稿では,言語モデルの内部アクティベーション内部の潜伏知識を,純粋に教師なしの方法で直接見つけることを提案する。
本手法は, 教師なし, モデル出力がないにもかかわらず, 大規模言語モデルで表される多様な知識を復元できることを示す。
論文 参考訳(メタデータ) (2022-12-07T18:17:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。