論文の概要: Post-Training Large Language Models with LLMON

• arxiv url: http://arxiv.org/abs/2610.38120v1
• Date: Wed, 28 Oct 2026 00:56:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-31 05:25:12.353007
• Title: Post-Training Large Language Models with LLMON
• Title（参考訳）: LLMONによる学習後の大規模言語モデル
• Abstract要約: LLMON(LLM Object Notation)は,データから命令を分離するフレームワークである。 我々は、一般向け4.6Bトークン、RAG(Retrieval-Augmented Generation)、ツールコールデータからなる大規模構造化トレーニングコーパスを構築する。 LLMON構造化監視により,間接的インジェクションベンチマークの攻撃成功率を53-100%から0.02-5.6%に低減し,汎用性を維持した。
• 参考スコア（独自算出の注目度）: 11.34962451661663
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Language Models (LLMs) treat all context tokens uniformly, lacking explicit separation between executable instructions and passive data. This leads to prompt injection vulnerabilities, ambiguous instruction binding, and unreliable execution control. We present a post-training methodology using LLMON (LLM Object Notation), a framework that enables separating instructions from data and requires explicit identifier-based execution. We construct a large-scale structured training corpus of 4.6B tokens spanning general, RAG (Retrieval-Augmented Generation), and tool-calling data, augmented with distractor-infused variants in which competing instructions and irrelevant data segments are present in context but not referenced. Post-training two Granite-4.1 base models (3B and 8B) through supervised fine-tuning followed by reinforcement learning, we show that LLMON-structured supervision reduces attack success rates on indirect prompt-injection benchmarks from 53-100% to 0.02-5.6% while preserving general capabilities. We further introduce attention-based interpretability metrics that diagnose failure modes at individual transformer layers for structured inputs, revealing how our approach reshapes internal attention patterns. Our results demonstrate that explicit execution semantics can be taught through standard post-training without architectural modification.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、すべてのコンテキストトークンを均一に扱い、実行可能命令と受動的データとの明確な分離を欠いている。 これにより、インジェクションの脆弱性、曖昧な命令バインディング、信頼性の低い実行制御が実現される。 LLMON(LLM Object Notation)は,データから命令を分離し,明示的な識別子ベースの実行を必要とするフレームワークである。 本稿では,一般向け4.6BトークンとRAG(Retrieval-Augmented Generation)およびツールコールデータからなる大規模構造化トレーニングコーパスを構築し,競合する命令や無関係なデータセグメントがコンテキスト内に存在するが参照されない,イントラクタ注入された変種を付加した。 2つのグラナイト-4.1ベースモデル(3B,8B)を教師付き微調整および強化学習により訓練後,LLMON構造化監視は,汎用性を保ちながら間接的インジェクションベンチマークにおける攻撃成功率を53-100%から0.02-5.6%に低下させることを示した。 さらに、構造化された入力に対して、個々のトランスフォーマー層で障害モードを診断するアテンションベースの解釈可能性指標を導入し、私たちのアプローチが内部の注意パターンをどのように再評価するかを明らかにします。 この結果から,明示的な実行セマンティクスは,アーキテクチャ変更を伴わずに,標準的なポストトレーニングを通じて学べることが示されている。

関連論文リスト

• Weave of Formal Thought [51.56484100374058]
  WoFT(Weave of Formal Thought)は、厳密な構文的検証と学習された構造的表現を結合したパラダイムである。 本稿では,非終端文法記号を直接生成にインターリーブするために,言語モデルを訓練する潜時可変微調整法を提案する。 Pythonでは、RWS目的のStarCoder2-3Bを微調整することで、テキストのみのSFTベースラインと比較して、トーケン毎のクロスエントロピーが14.3%削減される。
  論文  参考訳（メタデータ） (2026-06-24T15:58:11Z)
• The Curse of Helpfulness: Inverse Scaling Law in Robustness to Distractor Instructions via DistractionIF [19.923694743124475]
  大規模言語モデル (LLM) は、エージェントおよび検索強化世代 (RAG) システムにますます多くデプロイされている。 実際には、そのような文脈は、しばしば非構造化され、良性だが命令のようなセマンティックノイズで汚染される。 本稿では、参照テキストにおけるそのような注意散らし命令に対する堅牢性を評価するためのベンチマークであるDistractionIFを紹介する。
  論文  参考訳（メタデータ） (2026-05-28T07:18:15Z)
• From Recognition to Reasoning: Benchmarking and Enhancing MLLMs on Real-World Receipt Document Understanding [15.376371030121094]
  ReceiptBenchは10万の多様なレシートからなる、大規模で人間による注釈付きベンチマークである。 ReceiptBenchは10万の多様なレシートからなる大規模で人手による注釈付きベンチマークである。
  論文  参考訳（メタデータ） (2026-05-21T12:37:03Z)
• DRIP: Defending Prompt Injection via De-instruction Training and Residual Fusion Model Architecture [21.45291667976768]
  大規模言語モデル(LLM)は、素晴らしい命令追従機能を示している。 モデルの中心的な脆弱性は、セマンティックロール理解の欠如にある。 本稿では,意味モデリングの観点からの訓練時間防衛であるDRIPを提案する。
  論文  参考訳（メタデータ） (2025-11-01T08:26:37Z)
• The Atomic Instruction Gap: Instruction-Tuned LLMs Struggle with Simple, Self-Contained Directives [7.085868567930685]
  Instruction-tuned large language model (IT-LLM) は強いゼロショット推論を示す。 MMLUとMMLU-Proのベンチマークを用いて20個のIT-LLMを評価した。
  論文  参考訳（メタデータ） (2025-10-20T10:26:26Z)
• CoT Referring: Improving Referring Expression Tasks with Grounded Reasoning [67.18702329644526]
  CoT Referringは、構造化されたチェーン・オブ・シークレット・トレーニングデータ構造を通じて、モデル推論をモダリティにわたって強化する。 トレーニングデータを再構築して、新たな出力フォームを実行し、既存のデータセットに新たなアノテーションを提供します。 また、検出とセグメント化機能を統合MLLMフレームワークに統合し、新しい適応重み付き損失で学習して性能を最適化する。
  論文  参考訳（メタデータ） (2025-10-03T08:50:21Z)
• ASIDE: Architectural Separation of Instructions and Data in Language Models [87.16417239344285]
  ASIDEは言語モデルに対して、埋め込みのレベルで命令とデータを明確に分離することを可能にする。 本稿では,ASIDE を用いた命令調整 LLM がモデルユーティリティを損なうことなく,命令データ分離の高度化につながることを実験的に示す。 モデル表現の分析を通じて,本手法の基盤となるメカニズムについて考察する。
  論文  参考訳（メタデータ） (2025-03-13T17:17:17Z)
• Unsupervised Continual Anomaly Detection with Contrastively-learned Prompt [80.43623986759691]
  UCADと呼ばれる新しい非教師付き連続異常検出フレームワークを提案する。 このフレームワークは、対照的に学習したプロンプトを通じて、UDAに継続的な学習能力を持たせる。 我々は総合的な実験を行い、教師なし連続異常検出とセグメンテーションのベンチマークを設定した。
  論文  参考訳（メタデータ） (2024-01-02T03:37:11Z)
• Instruction Position Matters in Sequence Generation with Large Language Models [67.87516654892343]
  大規模言語モデル(LLM)は、翻訳や要約といった条件付きシーケンス生成タスクを実行することができる。 入力文の後にタスク命令の位置をシフトさせることにより,LLMの指示追従能力を向上させることを提案する。
  論文  参考訳（メタデータ） (2023-08-23T12:36:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。