論文の概要: MapSteal: Map-based Autonomous Knowledge Stealing Attack Against Large Language Models
- arxiv url: http://arxiv.org/abs/2610.25626v1
- Date: Mon, 19 Oct 2026 01:07:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 13:00:49.066209
- Title: MapSteal: Map-based Autonomous Knowledge Stealing Attack Against Large Language Models
- Title(参考訳): MapSteal: 大規模言語モデルに対するマップベースの自律的知識ステアリング攻撃
- Abstract要約: 構造化再帰的知識獲得のための,学生に依存しないフレームワークである textbfMapSteal を提案する。
Qwen3.5の2B、4B、9Bスケールでの学生によるテストは、6つの医療およびサイバーセキュリティベンチマークで競合するダウンストリームのパフォーマンスを示している。
- 参考スコア(独自算出の注目度): 41.652373848599176
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Knowledge acquisition from black-box large language models (LLMs) offers a practical approach to adapting smaller student models. However, many existing methods rely on predefined queries or student feedback to guide acquisition, leaving autonomous expansion of knowledge targets an important challenge. We propose \textbf{MapSteal}, a student-independent framework for structured recursive knowledge acquisition. Starting from a small set of initial roots, MapSteal represents acquisition targets using structured states and recursively expands them through teacher-proposed directions. Question realization, proposal admission, and deduplication constrain the acquisition process, while root-aware scheduling organizes exploration under a fixed QA budget. The resulting question--answer pairs are used to adapt student models without requiring student feedback during acquisition. Experiments with Qwen3.5 students at 2B, 4B, and 9B scales show competitive downstream performance across six medical and cybersecurity benchmarks. On the 4B medical evaluation, Full MapSteal improves average accuracy by 1.17 percentage points over a simplified recursive acquisition variant. Cross-domain evaluations show that gains depend on the domain and evaluation panel. These results demonstrate the feasibility of structured, student-independent recursive acquisition while highlighting the distinction between generating acquisition targets and obtaining useful training supervision. Our code is available at \href{https://github.com/LabRAI/Mapsteal} {https://github.com/LabRAI/Mapsteal}.
- Abstract(参考訳): ブラックボックス大言語モデル(LLM)からの知識獲得は、より小さな学生モデルに適応するための実践的なアプローチを提供する。
しかし、既存の多くの手法は、事前定義されたクエリや学生のフィードバックに頼っており、知識の自律的な拡張は重要な課題である。
本稿では,構造化再帰的知識獲得のための,学生に依存しないフレームワークである「textbf{MapSteal}」を提案する。
MapStealは、初期ルートの小さなセットから始まり、構造化状態を使用して取得ターゲットを表現し、教師が提案した方向を通じて再帰的に拡張する。
質問の実現、提案の受け入れ、重複解消は、取得プロセスを制限し、ルートアウェアのスケジューリングは、一定のQA予算の下で探索を組織する。
得られた質問-回答ペアは、取得中に学生のフィードバックを必要とせずに、学生モデルに適応するために使用される。
2B、4B、9BスケールでのQwen3.5の学生による実験は、6つの医療およびサイバーセキュリティベンチマークで競合するダウンストリームのパフォーマンスを示している。
4Bの医療評価において、Full MapStealは、単純化された再帰的取得モデルよりも平均精度を1.17ポイント向上する。
クロスドメイン評価は、利得がドメインと評価パネルに依存することを示している。
これらの結果は,学習者に依存しない構造化的再帰的獲得の実現可能性を示すとともに,獲得目標の生成と有用な指導監督の獲得の相違を強調した。
私たちのコードは \href{https://github.com/LabRAI/Mapsteal} {https://github.com/LabRAI/Mapsteal} で利用可能です。
関連論文リスト
- GRADE: Generalizable Reasoning-Aware Dialogue Evaluation for AI Tutors [5.831342304669597]
GRADEは、学生-教師対話における教育能力評価のためのオープンソースモデルの体系的研究である。
ゼロショット推論, LoRAファインチューニング, 合成拡張, CoT+Reasoning, シングルタスク対マルチタスクの定式化など, 5つの言語モデルにわたる120の構成を評価した。
論文 参考訳(メタデータ) (2026-05-27T02:26:55Z) - The Unlearning Mirage: A Dynamic Framework for Evaluating LLM Unlearning [54.67958855362658]
複雑な構造化クエリを用いたアンラーニングテストを強調する動的フレームワークを提案する。
提案手法はまず,対象モデル(事前学習)から知識を抽出し,単純なクエリからマルチホップチェーンまで,対象プローブを構築する。
本フレームワークは,テストセットを手作業で構築することなく,非学習手法の実用的でスケーラブルな評価を可能にする。
論文 参考訳(メタデータ) (2026-03-11T19:51:33Z) - SPaR: Self-Play with Tree-Search Refinement to Improve Instruction-Following in Large Language Models [88.29990536278167]
SPaRは、木探索の自己精製を統合して、有効かつ同等な選好ペアを得るセルフプレイフレームワークである。
実験により,SPaRで誘導された3回の反復で訓練されたLLaMA3-8Bモデルが,一般機能を失うことなくIFEvalベンチマークでGPT-4-Turboを上回った。
論文 参考訳(メタデータ) (2024-12-16T09:47:43Z) - UniKGQA: Unified Retrieval and Reasoning for Solving Multi-hop Question
Answering Over Knowledge Graph [89.98762327725112]
KGQA(Multi-hop Question Answering over Knowledge Graph)は、自然言語の質問で言及されているトピックエンティティから、複数のホップを持つ回答エンティティを見つけることを目的としている。
我々は、モデルアーキテクチャとパラメータ学習の両方において、検索と推論を統合することで、マルチホップKGQAタスクの新しいアプローチであるUniKGQAを提案する。
論文 参考訳(メタデータ) (2022-12-02T04:08:09Z) - Automatic Short Math Answer Grading via In-context Meta-learning [2.0263791972068628]
本研究では,数学質問に対する児童生徒の回答に対する自動短解格付けの問題について検討する。
我々は、数学的な内容に適応した人気のある言語モデルBERTの変種である MathBERT をベースモデルとして使用しています。
第二に、言語モデルへの入力としてスコアリングサンプルを提供する、コンテキスト内学習アプローチを用いる。
論文 参考訳(メタデータ) (2022-05-30T16:26:02Z) - Graph Sampling Based Deep Metric Learning for Generalizable Person
Re-Identification [114.56752624945142]
我々は、最も一般的なランダムサンプリング手法である有名なpkサンプリングは、深層メトリック学習にとって有益で効率的ではないと主張する。
大規模計量学習のためのグラフサンプリング(GS)と呼ばれる効率的なミニバッチサンプリング手法を提案する。
論文 参考訳(メタデータ) (2021-04-04T06:44:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。