論文の概要: Analysing Self-Harm Representations in Language Models: a Cross-Architecture Study
- arxiv url: http://arxiv.org/abs/2607.21988v1
- Date: Fri, 24 Jul 2026 05:27:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-27 20:58:57.052831
- Title: Analysing Self-Harm Representations in Language Models: a Cross-Architecture Study
- Title（参考訳）: 言語モデルにおける自己調和表現の分析--クロスアーキテクチャスタディ
- Abstract要約: セルフハームコンテンツは、NLP技術を用いて検出することが困難であり、また、リスクの高いユーザへのタイムリーな介入やフラグ付けを可能にするために、最高の精度を必要とする、ハイテイクタスクでもある。
本稿では, LLM が自己ハーム検出, LLM の介入, ガバナンス, 警察などにおいて, 下流に応用されている自己ハーム内容の表現方法について分析する。
- 参考スコア（独自算出の注目度）: 5.064422629188089
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Self-harm content is particularly challenging to detect using NLP techniques, and is also a high-stakes task which requires the highest accuracy to enable timely intervention or flagging at-risk users. We therefore present an analysis of how LLMs represent such self-harm content, which has downstream applications in self-harm detection, LLM intervention and governance and policing. In this paper, we focus on two datasets and four models, and perform two main experiments: (1) We train and evaluate linear probes across all layers of each model on two self-harm datasets: X-Sensitive and SH-Detection. Across both corpora, self-harm information crystallizes in the final 3 - 7% of network layers (93 to 97% depth). (2) We extract contrastive self-harm directions and, after performing a normaliation step, we find that the most accurate probes are not necessarily the most linearly separable. In particular, we find Gemma-3-4B to represent this \textit{contrastive self-harm direction} in a slightly different, more intricate way than the other LLMs.
- Abstract（参考訳）: セルフハームコンテンツは、NLP技術を用いて検出することが特に困難であり、また、リスクの高いユーザへのタイムリーな介入やフラグ付けを可能にするために、最高の精度を必要とする、ハイテイクタスクでもある。
そこで本研究では,LLMの自己ハーム検出,LCMの介入,ガバナンス,ポーリングなどにおける下流的応用である,このような自己ハーム内容の表現方法について分析する。
本稿では,2つのデータセットと4つのモデルに着目し,(1)X-SensitiveとSH-Detectionの2つのセルフハームデータセット上で,各モデルの全層にわたる線形プローブのトレーニングと評価を行う。
両方のコーパスで、自己ハーム情報は最終3～7%のネットワーク層(深さ93～97%)で結晶化される。
2) 対照的な自己損傷方向を抽出し, 正常化処理を行った後, 最も正確なプローブは必ずしも最も線形分離可能であるとは限らないことがわかった。
特に、この「textit{contrastive self-harm direction}」を表すのがGemma-3-4Bである。
関連論文リスト
- WEQA: Wearable hEalth Question Answering with Query-Adaptive Agentic Reasoning [30.134429515719905]
本稿では,LLM推論を特殊なウェアラブル分析・モデリングツールと統合するクエリ適応型エージェントフレームワークWEQAを提案する。
また、3つの異なる健康領域における分析および予測タスクを含む4つのオープンなウェアラブルデータセットにまたがるベンチマークをキュレートする。
実験の結果,LLMやエージェントベースラインよりも24%の精度が得られ,12名の医療専門家と8名のユーザによる盲目調査の結果,有用性や臨床的健全性は著しく向上した。
論文 参考訳（メタデータ） (2026-06-16T16:45:56Z) - A Comprehensive Information-Decomposition Analysis of Large Vision-Language Models [24.18585407100395]
大規模視覚言語モデル(LVLM)は優れた性能を発揮するが、内部決定プロセスは不透明である。
本稿では,LVLMの「情報スペクトル」を定量的に測定するために,部分情報分解(PID)を用いた新しいフレームワークを提案する。
分析の結果,2つの重要な結果が明らかになった: (i)2つのタスク・レジーム (synergy-driven vs. knowledge-driven) と (ii) 2つの安定な家族レベルの戦略 (fusion-centric vs. language-centric) である。
論文 参考訳（メタデータ） (2026-03-31T12:32:29Z) - Lie to Me: Knowledge Graphs for Robust Hallucination Self-Detection in LLMs [0.0]
本研究では,幻覚の自己検出を改善するため,構造化知識表現,すなわち知識グラフの利用について検討する。
この結果から,LLMは知識グラフとして構造化された原子の事実をよりよく解析できることがわかった。
この低コストでモデルに依存しないアプローチは、より安全で信頼性の高い言語モデルへの道を開く。
論文 参考訳（メタデータ） (2025-12-29T15:41:13Z) - What Level of Automation is "Good Enough"? A Benchmark of Large Language Models for Meta-Analysis Data Extraction [0.3441021278275805]
本研究は, 統計結果, リスク・オブ・バイアス評価, 研究レベルの諸課題における3つのLCMの実用的性能を評価する。
抽出品質を改善する方法を決定するために,4つの異なるプロンプト戦略を検証した。
カスタマイズされたプロンプトが最も効果的で 最大15%のリコールを加速しました
論文 参考訳（メタデータ） (2025-07-20T23:09:04Z) - Towards Evaluting Fake Reasoning Bias in Language Models [47.482898076525494]
論理に欠陥がある場合でも、モデルが推論の表面構造を好むことを示す。
我々は、Fake Reasoning Bias(FRB)を体系的に調査するベンチマークTheATERを紹介する。
我々は、主観的DPOと実データの両方で17の高度な大言語モデル(LRM)を評価する。
論文 参考訳（メタデータ） (2025-07-18T09:06:10Z) - Why Do Multi-Agent LLM Systems Fail? [87.90075668488434]
MAST-Dataは7つの人気のあるMASフレームワークで収集された1600以上の注釈付きトレースの包括的なデータセットである。
我々はMAST(Multi-Agent System Failure Taxonomy)を初めて構築する。
MASTとMAST-Dataを利用して、モデル(GPT4、Claude 3、Qwen2.5、CodeLlama)とタスク(コーディング、数学、汎用エージェント)の障害パターンを分析します。
論文 参考訳（メタデータ） (2025-03-17T19:04:38Z) - Mitigating Forgetting in LLM Fine-Tuning via Low-Perplexity Token Learning [65.23593936798662]
LLM生成データによる微調整により,目標タスクの性能が向上し,非目標タスクの劣化が低減されることを示す。
微調整後のLSMにおける破滅的忘れを緩和するために、トークンの難易度低減に基づく経験的説明を提供する最初の研究である。
論文 参考訳（メタデータ） (2025-01-24T08:18:56Z) - A Unified Approach Towards Active Learning and Out-of-Distribution Detection [49.334006405481375]
我々は、ALとOODの両方検出のための最初の統合ソリューションとして、SISOMを紹介した。
特徴空間距離メトリクスを活用することで、SISOMは、現在独立したタスクの強みを組み合わせて、両方を効果的に解決する。
ALでは、SISOMは他より優れ、3つのベンチマークでトップ1のパフォーマンスを提供する。
論文 参考訳（メタデータ） (2024-05-18T17:02:57Z) - TRACE: A Comprehensive Benchmark for Continual Learning in Large
Language Models [52.734140807634624]
調整された大規模言語モデル(LLM)は、タスク解決、指示に従うこと、安全性を確保することにおいて、例外的な能力を示す。
既存の連続学習ベンチマークでは、LLMをリードする上で十分な課題が欠如している。
LLMにおける継続学習を評価するための新しいベンチマークであるTRACEを紹介する。
論文 参考訳（メタデータ） (2023-10-10T16:38:49Z) - Self-Verification Improves Few-Shot Clinical Information Extraction [73.6905567014859]
大規模言語モデル (LLMs) は、数発のテキスト内学習を通じて臨床キュレーションを加速する可能性を示している。
正確性や解釈可能性に関する問題、特に健康のようなミッションクリティカルな領域ではまだ苦戦している。
本稿では,自己検証を用いた汎用的な緩和フレームワークについて検討する。このフレームワークはLLMを利用して,自己抽出のための証明を提供し,その出力をチェックする。
論文 参考訳（メタデータ） (2023-05-30T22:05:11Z) - A Global Model Approach to Robust Few-Shot SAR Automatic Target
Recognition [6.260916845720537]
ディープラーニングベースのSAR自動ターゲット認識(ATR)モデルをトレーニングするために、クラス毎に数百のラベル付きサンプルを収集できるとは限らない。
この研究は特に数発のSAR ATR問題に対処しており、興味のあるタスクをサポートするためにラベル付きサンプルがわずかである。
論文 参考訳（メタデータ） (2023-03-20T00:24:05Z) - Benchmarking the Robustness of LiDAR Semantic Segmentation Models [78.6597530416523]
本稿では,LiDARセマンティックセグメンテーションモデルのロバスト性を,様々な汚職の下で包括的に解析することを目的とする。
本稿では,悪天候,計測ノイズ,デバイス間不一致という3つのグループで16のドメイン外LiDAR破損を特徴とするSemanticKITTI-Cというベンチマークを提案する。
我々は、単純だが効果的な修正によってロバスト性を大幅に向上させるロバストLiDARセグメンテーションモデル(RLSeg)を設計する。
論文 参考訳（メタデータ） (2023-01-03T06:47:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。