論文の概要: LLM Trojans that Increase Response Lengths and Cost

• arxiv url: http://arxiv.org/abs/2610.24784v1
• Date: Sat, 17 Oct 2026 17:12:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-22 16:19:12.194713
• Title: LLM Trojans that Increase Response Lengths and Cost
• Title（参考訳）: 応答長とコストを増大させるLLMトロイの木馬
• Abstract要約: 一部のフロンティアモデルプロバイダは、プロンプトトークンの5倍のレスポンストークンを課金し、プロンプトトークンのプリフィル割引を提供する。 本稿では,プロンプト内にトリガが存在する場合の応答時間(およびユーザに対するコスト)を増大させるトロイの木を植える新たなデータ汚染攻撃に対する防御策を考案する。
• 参考スコア（独自算出の注目度）: 6.908859704565138
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Management of the token-based costs of using LLMs has emerged as a significant problem. Some frontier-model providers charge five times per response token than per prompt token, while others offer prefilling discounts for prompt tokens. In this paper, we devise a defense against a new data-poisoning attack that plants a Trojan which increases the length of the response (and hence the cost to the user) when its trigger is present in the prompt. In particular, we demonstrate how a subtle Trojan may trigger on semantically similar instructions of an instruction fine-tuned LLM.
• Abstract（参考訳）: LLMを使用するトークンベースのコストの管理が重要な問題として浮上している。 一部のフロンティアモデルプロバイダは、プロンプトトークンの5倍のレスポンストークンを課金する一方、プロンプトトークンのプリフィル割引を提供する。 本稿では,プロンプトにトリガが存在する場合の応答時間(およびユーザに対するコスト)を増大させるトロイの木を植える新たなデータ汚染攻撃に対する防御策を考案する。 特に、微妙なトロイの木馬が、命令を微調整したLLMの意味論的に類似した命令をトリガーする方法を実証する。

関連論文リスト

• Behavior-Equivalent Token: Single-Token Replacement for Long Prompts in LLMs [55.827877498548965]
  単一プロンプト固有の振る舞い等価トークン([BE])を学習する軽量なトレーニングフレームワークを提案する。 フレームワークはまず[BE]に、元のシステムプロンプトの自然言語内容を再構成してエンコードし、その後、プロンプトの下流の振る舞いをこの単一のトークンに蒸留するように訓練する。 3つのデータセットに対する実証的な評価は、1つの[BE]トークンが3000倍の高速化を実現し、元のシステムの下流性能の約98%を維持していることを示している。
  論文  参考訳（メタデータ） (2025-11-28T15:22:52Z)
• Token Highlighter: Inspecting and Mitigating Jailbreak Prompts for Large Language Models [61.916827858666906]
  大規模言語モデル(LLM)は、ユーザクエリに対する応答を提供するために、ChatGPTなどのサービスに統合されつつある。 本稿では,Token Highlighterという手法を提案する。
  論文  参考訳（メタデータ） (2024-12-24T05:10:02Z)
• Mind the Inconspicuous: Revealing the Hidden Weakness in Aligned LLMs' Refusal Boundaries [22.24239212756129]
  複数のシーケンス(eos)トークンを単に追加するだけで、コンテキストセグメンテーションと呼ばれる現象が発生します。 本稿では, eos トークンを付加することにより, BOOST ジェイルブレイク攻撃の簡単な方法を提案する。
  論文  参考訳（メタデータ） (2024-05-31T07:41:03Z)
• Defending LLMs against Jailbreaking Attacks via Backtranslation [61.878363293735624]
  「我々は、バックトランスレーションによる脱獄攻撃からLLMを守る新しい方法を提案する。」 推測されたプロンプトは、元のプロンプトの実際の意図を明らかにする傾向にある、逆転プロンプトと呼ばれる。 我々は、我々の防衛がベースラインを大幅に上回っていることを実証的に実証した。
  論文  参考訳（メタデータ） (2024-02-26T10:03:33Z)
• TrojLLM: A Black-box Trojan Prompt Attack on Large Language Models [29.66515518909497]
  TrojLLMは、普遍的でステルス的なトリガーを生成する自動かつブラックボックスフレームワークである。 個別のプロンプト内にトロイの木馬を埋め込むことをサポートし、トリガーの攻撃の全体的な効果と精度を高める。 実世界のブラックボックスLPM APIにおけるテキストプロンプトにTrojLLMを効果的に挿入する能力を示す実験と結果を得た。
  論文  参考訳（メタデータ） (2023-06-12T01:22:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。