論文の概要: STEMMA: An Adversarial Multi-Agent Framework for Evaluating Self-Identity Consistency in LLMs

• arxiv url: http://arxiv.org/abs/2608.08164v1
• Date: Sat, 08 Aug 2026 14:46:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-11 19:16:36.707756
• Title: STEMMA: An Adversarial Multi-Agent Framework for Evaluating Self-Identity Consistency in LLMs
• Title（参考訳）: STEMMA:LLMにおける自己同一性評価のための逆多重エージェントフレームワーク
• Abstract要約: 機能的知識とは別に、学生モデルは行動パターン、特にモデルが自身のアイデンティティをどのように表現しているかを学ぶ。 STEMMAはマルチモーダル・マルチエージェントのフレームワークで、特定のエージェントが協調して自己識別行動を探索する。 我々の結果は、ほとんどのモデルが自己表現の不整合に対して脆弱であることを示している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Knowledge Distillation is a widely adopted technique in the training and fine-tuning of large language models (LLMs) enabling transfer of structured information and functional behavior from a large teacher model to a smaller student model while significantly reducing computational costs. However, as the use of distillation increases in both scale and complexity it raises an important question about what kind of knowledge is really transferred from the teacher model. In this work, we argue that apart from the functional knowledge, student models also learn behavioral patterns, specifically how a model represents its own identity raising concerns about output homogeneity, model biases, and accountability. To address this challenge, we introduce STEMMA, a multi-modal and multi-agent framework in which role specific agents collaboratively probe self identification behavior in different models. We also contribute a set of adversarial prompts designed manually to evaluate identity consistency in LLMs. Our results show that to an extent most models are vulnerable to inconsistencies in self-representations.
• Abstract（参考訳）: 知識蒸留は、大規模言語モデル(LLM)の訓練と微調整において広く採用されている技法であり、大規模教師モデルからより小さな学生モデルへの構造化情報や機能的振る舞いの伝達を可能にし、計算コストを大幅に削減する。 しかし, 蒸留の使用が規模と複雑さの両方で増加すると, 教師モデルからどのような知識が実際に受け継がれているのか, 重要な疑問が浮き彫りになる。 この研究では、機能的知識とは別に、学生モデルは行動パターンを学習し、特に、モデルが出力の均一性、モデルバイアス、説明責任に関する懸念を提起する自身のアイデンティティをどのように表現するかを論じる。 この課題に対処するため、我々はSTEMMAというマルチモーダル・マルチエージェント・フレームワークを導入し、異なるモデルにおける役割特定エージェントが協調して自己識別挙動を探索する。 また, LLMにおけるアイデンティティの整合性を評価するために, 手動で設計した, 対向的プロンプトのセットにも貢献する。 我々の結果は、ほとんどのモデルが自己表現の不整合に対して脆弱であることを示している。

関連論文リスト

• Learning Task-Agnostic Representations through Multi-Teacher Distillation [59.488314181423284]
  本稿では,「多数決」目的関数に基づくタスク非依存フレームワークを提案する。 この機能は,学生と教師の埋め込みの相互情報に縛られていることを実証する。 提案手法は,教師の多様性を効果的に活用し,多様な下流タスクのパフォーマンス向上を実現する。
  論文  参考訳（メタデータ） (2025-10-21T14:36:33Z)
• UNIFORM: Unifying Knowledge from Large-scale and Diverse Pre-trained Models [62.76435672183968]
  UNIFORMと呼ばれる新しいフレームワークを導入し、多様なオフザシェルフモデルから1つの学生モデルへ知識を伝達する。 本稿では,ロジットレベルでも機能レベルでも知識のコンセンサスを捉えるための,専用の投票機構を提案する。 UNIFORMは、強い知識伝達ベースラインに比べて、教師なしオブジェクト認識性能を効果的に向上することを示した。
  論文  参考訳（メタデータ） (2025-08-27T00:56:11Z)
• Perspectives for Direct Interpretability in Multi-Agent Deep Reinforcement Learning [0.41783829807634765]
  マルチエージェントディープ強化学習(MADRL)は、ロボット工学やゲームにおいて複雑な問題を解くのに効果的であることが証明された。 本稿では, 学習モデルから直接, ポストホックな説明を生成することによって, 直接解釈可能であることを提唱する。 我々は、関連バックプロパゲーション、知識エディション、モデルステアリング、アクティベーションパッチ、スパースオートエンコーダ、サーキットディスカバリなど、現代的な手法を探求する。
  論文  参考訳（メタデータ） (2025-02-02T09:15:27Z)
• Enhancing Multiple Dimensions of Trustworthiness in LLMs via Sparse Activation Control [44.326363467045496]
  大規模言語モデル(LLM)は、ヒューマンフィードバック(RLHF)からの強化学習において重要な研究領域となっている。 表現工学は、新しい、トレーニングなしのアプローチを提供する。 この手法は意味的特徴を利用してLLMの中間隠れ状態の表現を制御する。 正直さや安全性などの様々な意味内容を特異な意味的特徴に符号化することは困難である。
  論文  参考訳（メタデータ） (2024-11-04T08:36:03Z)
• Interactive DualChecker for Mitigating Hallucinations in Distilling Large Language Models [7.632217365130212]
  大規模言語モデル(LLM)は、さまざまな機械学習(ML)タスクにまたがる例外的な機能を示している。 これらのモデルは、特に不完全な知識を持つ領域において幻覚を生み出すことができる。 幻覚を緩和し,教師モデルと学生モデルの両方のパフォーマンスを向上させるために設計された,革新的なフレームワークであるDualCheckerを紹介する。
  論文  参考訳（メタデータ） (2024-08-22T12:04:04Z)
• A Probabilistic Model Behind Self-Supervised Learning [53.64989127914936]
  自己教師付き学習(SSL)では、アノテートラベルなしで補助的なタスクを通じて表現が学習される。 自己教師型学習のための生成潜在変数モデルを提案する。 対照的な方法を含む識別的SSLのいくつかのファミリーは、表現に匹敵する分布を誘導することを示した。
  論文  参考訳（メタデータ） (2024-02-02T13:31:17Z)
• MoMA: Momentum Contrastive Learning with Multi-head Attention-based Knowledge Distillation for Histopathology Image Analysis [4.5677296928097055]
  計算病理学における特定のタスクに関して、品質データの欠如は一般的な問題である。 そこで本研究では,既存のモデルを用いて新たなターゲットモデルを学習する知識蒸留手法を提案する。 本研究では,教師モデルから学習対象モデルを学習するために,学習者・教師の枠組みを用いる。
  論文  参考訳（メタデータ） (2023-08-31T08:54:59Z)
• Prototype-guided Cross-task Knowledge Distillation for Large-scale Models [103.04711721343278]
  クロスタスクの知識蒸留は、競争力のあるパフォーマンスを得るために小さな学生モデルを訓練するのに役立ちます。 本稿では,大規模教師ネットワークの内在的ローカルレベルのオブジェクト知識を様々なタスクシナリオに転送するための,プロトタイプ誘導型クロスタスク知識蒸留(ProC-KD)アプローチを提案する。
  論文  参考訳（メタデータ） (2022-12-26T15:00:42Z)
• Multi-Agent Imitation Learning with Copulas [102.27052968901894]
  マルチエージェント模倣学習は、観察と行動のマッピングを学習することで、デモからタスクを実行するために複数のエージェントを訓練することを目的としている。 本稿では,確率変数間の依存を捉える強力な統計ツールである copula を用いて,マルチエージェントシステムにおける相関関係と協調関係を明示的にモデル化する。 提案モデルでは,各エージェントの局所的行動パターンと,エージェント間の依存構造のみをフルにキャプチャするコプラ関数を別々に学習することができる。
  論文  参考訳（メタデータ） (2021-07-10T03:49:41Z)
• Goal-Aware Prediction: Learning to Model What Matters [105.43098326577434]
  学習した前進力学モデルを使用する際の根本的な課題の1つは、学習したモデルの目的と下流のプランナーやポリシーの目標とのミスマッチである。 本稿では,タスク関連情報への直接的予測を提案し,そのモデルが現在のタスクを認識し,状態空間の関連量のみをモデル化することを奨励する。 提案手法は,目標条件付きシーンの関連部分を効果的にモデル化し,その結果,標準タスク非依存のダイナミックスモデルやモデルレス強化学習より優れていることがわかった。
  論文  参考訳（メタデータ） (2020-07-14T16:42:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。