論文の概要: NeuroActiSep: Detecting Factual Hallucinations from Feed-Forward Neurons in a Single Pass
- arxiv url: http://arxiv.org/abs/2609.14448v1
- Date: Sun, 13 Sep 2026 11:42:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:05.815576
- Title: NeuroActiSep: Detecting Factual Hallucinations from Feed-Forward Neurons in a Single Pass
- Title（参考訳）: NeuroActiSep: 単一パスにおけるフィードフォワードニューロンからのFactual Hallucinationの検出
- Abstract要約: より研究の少ないアプローチは、幻覚と相関したフィードフォワードニューロンを特定することである。
本稿では,ニューロン選択データセットを用いて,フィードフォワードニューロンを最終プロンプトトークンにランク付けする手法を提案する。
我々の研究は、選択されたニューロンの特徴を用いて訓練されたプローブが、内部状態に基づいて訓練されたプローブと同等に実行するという経験的な証拠を提供する。
- 参考スコア（独自算出の注目度）: 0.17205106391379021
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Hallucination in large language models reduces their reliability and slows adoption. Various white-box studies have used internal representations to detect patterns of truthfulness and factuality. A less-studied approach is to identify feed-forward neurons correlated with hallucination. We propose a method to rank feed-forward neurons at the final prompt token using a custom neuron selection dataset. We transfer the selected neuron identities to train hallucination classifiers on other factual question answering datasets. Our work provides empirical evidence that probes trained using the features from the selected neurons perform on par with probes trained on internal states. We also analyze the distribution of selected neurons and the effect of layer depth on detection performance.
- Abstract（参考訳）: 大きな言語モデルの幻覚は、信頼性を低下させ、採用を遅らせます。
様々なホワイトボックスの研究は、真実と事実のパターンを検出するために内部表現を用いてきた。
より研究の少ないアプローチは、幻覚と相関したフィードフォワードニューロンを特定することである。
本稿では,ニューロン選択データセットを用いて,フィードフォワードニューロンを最終プロンプトトークンにランク付けする手法を提案する。
選択したニューロンのアイデンティティを、他の事実質問応答データセット上で幻覚分類器の訓練に転送する。
我々の研究は、選択されたニューロンの特徴を用いて訓練されたプローブが、内部状態に基づいて訓練されたプローブと同等に実行するという経験的な証拠を提供する。
また,選択したニューロンの分布と層深度が検出性能に及ぼす影響を解析した。
関連論文リスト
- Towards Interpretable Hallucination Analysis and Mitigation in LVLMs via Contrastive Neuron Steering [60.23509717784518]
既存の緩和法は主に出力レベルの調整に重点を置いており、幻覚を引き起こす内部メカニズムはほとんど探索されていない。
クリーン入力とノイズ入力のコントラスト解析により画像特異的ニューロンを識別するコントラスト性ニューロンステアリング(CNS)を提案する。
CNSは摂動によって引き起こされる活性化を抑えつつ情報伝達ニューロンを選択的に増幅し、より堅牢でセマンティックな視覚表現を生み出す。
論文 参考訳（メタデータ） (2026-01-31T09:21:04Z) - H-Neurons: On the Existence, Impact, and Origin of Hallucination-Associated Neurons in LLMs [56.31565301428888]
大型言語モデル(LLM)における幻覚関連ニューロン(H-Neurons)の同定
同定の面では、驚くほどスパースなニューロンのサブセットが幻覚の発生を確実に予測できることが示される。
行動への影響に関して、制御された介入は、これらのニューロンが過度に順応する行動と因果関係があることを明らかにする。
論文 参考訳（メタデータ） (2025-12-01T15:32:14Z) - Know Thyself by Knowing Others: Learning Neuron Identity from Population Context [9.798773806523114]
本稿では,ニューロンレベルの表現学習のための最初の体系的スケーリング分析について述べる。
プレトレーニングで使用する動物数の増加は、下流のパフォーマンスを継続的に向上させることを示す。
結果は、多様で多様なニューラルネットワークが、動物全体にわたって一般化されるニューロンのアイデンティティに関する情報をモデルが回復する様子を強調している。
論文 参考訳（メタデータ） (2025-12-01T02:28:04Z) - Deciphering Functions of Neurons in Vision-Language Models [38.978287253624565]
本研究の目的は、視覚言語モデル(VLM)の内部を探索し、個々のニューロンの機能を理解することである。
入力された視覚トークンやテキストトークンに関してニューロンの活性化を観察し、いくつかの興味深い知見を明らかにした。
我々は、GPT-4oのアシスタントを用いて、ニューロンの説明を自動化するフレームワークを構築した。
視覚ニューロンに対しては,視覚ニューロンに対する説明の信頼性を評価するためのアクティベーションシミュレータを提案する。
論文 参考訳（メタデータ） (2025-02-10T10:00:06Z) - Neuron Empirical Gradient: Discovering and Quantifying Neurons Global Linear Controllability [14.693407823048478]
ニューロン実験勾配(NEG)は,活性化の変化が予測にどのように影響するかを捉える。
また, NEGは, スキルニューロン探索により, 多様なプロンプトにまたがる言語スキルを効果的に捉えていることを示す。
さらに分析は、効率性、堅牢性、柔軟性、相互依存といった、NEGベースのスキル表現の重要な特性を強調している。
論文 参考訳（メタデータ） (2024-12-24T00:01:24Z) - WaLiN-GUI: a graphical and auditory tool for neuron-based encoding [73.88751967207419]
ニューロモルフィックコンピューティングはスパイクベースのエネルギー効率の高い通信に依存している。
本研究では, スパイクトレインへのサンプルベースデータの符号化に適した構成を同定するツールを開発した。
WaLiN-GUIはオープンソースとドキュメントが提供されている。
論文 参考訳（メタデータ） (2023-10-25T20:34:08Z) - Identifying Interpretable Visual Features in Artificial and Biological
Neural Systems [3.604033202771937]
ニューラルネットワークの単一ニューロンはしばしば、個々の直感的に意味のある特徴を表すものとして解釈される。
多くのニューロンは$textitmixed selectivity$、すなわち複数の無関係な特徴を示す。
本稿では、視覚的解釈可能性の定量化と、ネットワークアクティベーション空間における意味のある方向を見つけるためのアプローチを提案する。
論文 参考訳（メタデータ） (2023-10-17T17:41:28Z) - Constraints on the design of neuromorphic circuits set by the properties
of neural population codes [61.15277741147157]
脳内では、情報はコード化され、伝達され、行動を伝えるために使用される。
ニューロモルフィック回路は、脳内のニューロンの集団が使用するものと互換性のある方法で情報を符号化する必要がある。
論文 参考訳（メタデータ） (2022-12-08T15:16:04Z) - A Neural Network Based Automated IFT-20 Sensory Neuron Classifier for
Caenorhabditis elegans [0.0]
組織間比較は、機能ネットワークの全脳分析を含む幅広い研究を可能にする。
線虫 Caenorhabditis elegans における単細胞分解能のパンニューロンイメージングの最近の進歩は、すべての到達範囲におけるニューロンの同定、追跡、活動監視をもたらした。
高い精度で神経細胞を同定する主な障壁は、成人のC. elegansでは神経細胞の体の位置がステレオタイプ化されていないことである。
単色蛍光画像のみを用いた別の神経細胞識別手法を提案する。
論文 参考訳（メタデータ） (2022-10-24T00:17:26Z) - Compositional Explanations of Neurons [52.71742655312625]
本稿では, 合成論理的概念を同定し, 深部表現におけるニューロンの説明手順について述べる。
本稿では,視覚と自然言語処理のモデルにおける解釈可能性に関するいくつかの疑問に答えるために,この手順を用いる。
論文 参考訳（メタデータ） (2020-06-24T20:37:05Z) - Non-linear Neurons with Human-like Apical Dendrite Activations [81.18416067005538]
XOR論理関数を100%精度で学習し, 標準的なニューロンに後続のアピーカルデンドライト活性化(ADA)が認められた。
コンピュータビジョン,信号処理,自然言語処理の6つのベンチマークデータセットについて実験を行った。
論文 参考訳（メタデータ） (2020-02-02T21:09:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。