論文の概要: Neuron Level Analysis of Large Language Model in Legal Domain Reasoning

• arxiv url: http://arxiv.org/abs/2606.15884v1
• Date: Sun, 14 Jun 2026 16:06:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-16 18:36:04.921338
• Title: Neuron Level Analysis of Large Language Model in Legal Domain Reasoning
• Title（参考訳）: 法律ドメイン推論における大言語モデルのニューロンレベル解析
• Abstract要約: ニューロンの属性スコアを用いて、影響力のあるニューロンのランク付けと抑制を行い、同定されたニューロンの抑制が目標タスクの精度を低下させることを示す。 法的な領域内では、3つのベンチマークは比較的高いニューロン重複を示し、共同で影響を受ける傾向があり、司法管轄領域にまたがる法的な成分ニューロンを示唆している。
• 参考スコア（独自算出の注目度）: 27.57551296522159
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We presented a neuron-level analysis of legal-domain reasoning in LLMs, comparing it with other applied domain tasks across seven open-weight models. Using neuron attribution scores to rank and suppress influential neurons, we confirmed that suppressing the identified neurons collapses accuracy on the target task, whereas suppressing the same number of random neurons does not. We further found a small subset of neurons influential across all seven tasks; once these are removed, suppressing the remaining neurons degrades only the task they were identified from, revealing genuinely task-specific neurons in every model studied. Within the legal domain, the three benchmarks exhibit relatively high neuron overlap and tend to be affected jointly, suggesting of legal components neurons that span jurisdictions. The distribution of identified neurons in our experiments suggests that the hypothesis that influential neurons are concentrated in middle MLP layers may depend on the input format and content, rather than being a universal phenomenon.
• Abstract（参考訳）: LLMの法ドメイン推論をニューロンレベルで解析し、7つのオープンウェイトモデルで適用された他のドメインタスクと比較した。 ニューロンの属性スコアを用いて、影響ニューロンのランク付けと抑制を行い、同定されたニューロンの抑制が目標タスクの精度を低下させる一方で、同じ数のランダムニューロンを抑制しないことを確認した。 さらに、7つのタスクすべてに影響を及ぼすニューロンの小さなサブセットが検出された。これらを除去すると、残りのニューロンが特定されたタスクのみを分解し、研究対象のモデルごとに真にタスク特異的なニューロンが明らかになる。 法的な領域内では、3つのベンチマークは比較的高いニューロン重複を示し、共同で影響を受ける傾向があり、司法管轄領域にまたがる法的な成分ニューロンを示唆している。 我々の実験で同定されたニューロンの分布は、影響ニューロンが中央のMLP層に集中しているという仮説は、普遍的な現象ではなく、入力形式や内容に依存する可能性があることを示唆している。

関連論文リスト

• From Heads to Neurons: Causal Attribution and Steering in Multi-Task Vision-Language Models [10.052877942432783]
  HONESは、視覚言語モデルにおけるタスク認識ニューロンの属性とステアリングのための勾配のないフレームワークである。 HONESは,タスククリティカルニューロンの同定において既存の手法よりも優れており,ステアリング後のモデル性能が向上していることを示す。
  論文  参考訳（メタデータ） (2026-04-20T08:21:06Z)
• Robust Spiking Neural Networks Against Adversarial Attacks [49.08210314590693]
  スパイキングニューラルネットワーク(SNN)は、エネルギー効率のよいニューロモルフィックコンピューティングにおいて有望なパラダイムである。 本研究では, 閾値近傍のスパイクニューロンが直接訓練されたSNNの堅牢性を制限する重要な要因であることを理論的に実証する。 これらのニューロンは、敵の攻撃の最大電位強度の上限を設定しており、小さな障害の下では状態降下する傾向にある。
  論文  参考訳（メタデータ） (2026-02-24T05:06:12Z)
• Towards Interpretable Hallucination Analysis and Mitigation in LVLMs via Contrastive Neuron Steering [60.23509717784518]
  既存の緩和法は主に出力レベルの調整に重点を置いており、幻覚を引き起こす内部メカニズムはほとんど探索されていない。 クリーン入力とノイズ入力のコントラスト解析により画像特異的ニューロンを識別するコントラスト性ニューロンステアリング(CNS)を提案する。 CNSは摂動によって引き起こされる活性化を抑えつつ情報伝達ニューロンを選択的に増幅し、より堅牢でセマンティックな視覚表現を生み出す。
  論文  参考訳（メタデータ） (2026-01-31T09:21:04Z)
• Identifying Good and Bad Neurons for Task-Level Controllable LLMs [43.20582224913806]
  大規模言語モデルは、複数の質問応答ベンチマークで顕著な機能を示した。 大型ニューロンの基盤となる複雑なメカニズムは不透明であり、LLMの理解と操舵に重大な課題を生んでいる。 本稿では,LLMニューロン識別における機能的アンタゴニティの生物学的原理を取り入れた,タスクレベルのLLM理解フレームワークであるNeuronLLMを提案する。
  論文  参考訳（メタデータ） (2026-01-08T03:24:18Z)
• In Search of Grandmother Cells: Tracing Interpretable Neurons in Tabular Representations [1.503974529275767]
  いくつかのニューロンは、高レベルの概念に対して中等度で統計的に有意な唾液濃度と選択性を示す。 これらの結果は、解釈可能なニューロンが自然に出現し、より複雑な解釈可能性技術に頼らずに特定できることを示唆している。
  論文  参考訳（メタデータ） (2026-01-07T07:13:01Z)
• H-Neurons: On the Existence, Impact, and Origin of Hallucination-Associated Neurons in LLMs [56.31565301428888]
  大型言語モデル(LLM)における幻覚関連ニューロン(H-Neurons)の同定 同定の面では、驚くほどスパースなニューロンのサブセットが幻覚の発生を確実に予測できることが示される。 行動への影響に関して、制御された介入は、これらのニューロンが過度に順応する行動と因果関係があることを明らかにする。
  論文  参考訳（メタデータ） (2025-12-01T15:32:14Z)
• The Achilles' Heel of LLMs: How Altering a Handful of Neurons Can Cripple Language Abilities [16.20947034847556]
  大規模言語モデル(LLM)は自然言語処理の基礎となるツールとなっている。 近年の研究では、人間の脳内の生物学的ニューロンのごく一部が、コア認知機能に欠かせないことが判明している。
  論文  参考訳（メタデータ） (2025-10-11T14:39:09Z)
• Neurons Speak in Ranges: Breaking Free from Discrete Neuronal Attribution [16.460751105639623]
  高度に正常なニューロンでも,多節性行動が持続的に発現していることが示される。 この観察は、ニューロンの属性からレンジベースの解釈へのシフトを動機付けている。 本稿では,新しいレンジベースの解釈・操作フレームワークであるNeuronLensを紹介する。
  論文  参考訳（メタデータ） (2025-02-04T03:33:55Z)
• Confidence Regulation Neurons in Language Models [91.90337752432075]
  本研究では,大規模言語モデルが次世代の予測において不確実性を表現・規制するメカニズムについて検討する。 エントロピーニューロンは異常に高い重量ノルムを特徴とし、最終層正規化(LayerNorm)スケールに影響を与え、ロジットを効果的にスケールダウンさせる。 ここで初めて説明するトークン周波数ニューロンは、各トークンのログをそのログ周波数に比例して増加または抑制することで、出力分布をユニグラム分布から遠ざかる。
  論文  参考訳（メタデータ） (2024-06-24T01:31:03Z)
• Interpreting the Second-Order Effects of Neurons in CLIP [73.54377859089801]
  CLIPの個々のニューロンの機能をテキストで自動的に記述することで解釈する。 ニューロンから後続のアテンションヘッドに流れる影響を、直接出力に解析する「第2次レンズ」を提案する。 以上の結果から,ニューロンの自動解釈は,モデル騙しや新しいモデル機能の導入に有効であることが示唆された。
  論文  参考訳（メタデータ） (2024-06-06T17:59:52Z)
• And/or trade-off in artificial neurons: impact on adversarial robustness [91.3755431537592]
  ネットワークに十分な数のOR様ニューロンが存在すると、分類の脆さと敵の攻撃に対する脆弱性が増加する。 そこで我々は,AND様ニューロンを定義し,ネットワーク内での割合を増大させる対策を提案する。 MNISTデータセットによる実験結果から,本手法はさらなる探索の方向として有望であることが示唆された。
  論文  参考訳（メタデータ） (2021-02-15T08:19:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。