論文の概要: Not the Same Protector: Deployment-Dependent Protective Intervention in LLMs

• arxiv url: http://arxiv.org/abs/2608.29136v1
• Date: Sat, 29 Aug 2026 08:25:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:30.858811
• Title: Not the Same Protector: Deployment-Dependent Protective Intervention in LLMs
• Title（参考訳）: 同様のプロテクターではない - LLMにおけるデプロイメント依存型プロテクトインベンション
• Abstract要約: 音声、テキスト、生のAPIデプロイメント条件にマッチした入力を持つ4つのフロンティアモデルを提示します。 我々は、モデルが明示的な医療指令を発行するかどうかを含む、5つのバイナリ保護指標に沿って、それぞれの応答をコーディングする。
• 参考スコア（独自算出の注目度）: 1.4178859966647714
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We ask whether a model protects a user in the same way when that user speaks rather than types. Using a single distress vignette---a physical injury of unstated severity following an interpersonal conflict---we present four frontier models with matched inputs across voice, text, and raw API deployment conditions (n=30 per cell) and code each response along five binary protective indicators, including whether the model issues an explicit medical-care directive. Voice-interface responses are markedly shorter than text-interface responses for three of the four models, and protective behavior contracts alongside that compression: medical directives are at ceiling under both the API and text conditions but decline under voice for every model tested. The contraction is not reducible to length. One model produces voice and text responses of comparable length yet still drops medical directives, and another falls below ceiling between its API and voice conditions, whose responses are of nearly identical length. Under raw API access the pattern is categorical rather than partial: no model asks after the user's safety even once. These results show that protective intervention is sensitive to the surface through which a request arrives, that this sensitivity is detectable using a simple protective coding scheme, and that it is not explained by turn length alone.
• Abstract（参考訳）: 我々は、モデルがユーザーがタイプではなく話すときと同じ方法でユーザーを保護するかどうかを尋ねる。 音声,テキスト,生APIの配置条件(n=30セル)で一致した4つのフロンティアモデルを提示し,各応答を5つのバイナリ保護指標に沿ってコードする。 4つのモデルのうち3つのモデルにおいて、ボイス・インタフェースのレスポンスはテキスト・インタフェースのレスポンスよりも著しく短く、その圧縮と共に保護行動の契約が結ばれている。 収縮は長さに還元できない。 あるモデルは、同等の長さの音声とテキストの応答を生成するが、医療の指示を落とし、別のモデルは、そのAPIと音声の条件の間に天井の下に落ち、その応答はほぼ同じ長さである。 生のAPIアクセスでは、パターンは部分的ではなくカテゴリ的です。 これらの結果から, 保護的介入は要求が到着する面に敏感であり, この感度は単純な保護符号化方式で検出可能であること, 旋回長さだけでは説明できないことが示唆された。

関連論文リスト

• CrACK: Adversarial Attacks on Cross-Model Consistency in Collaborative Vision Foundation Models [16.64134816858303]
  CLIP、SAM、DINOといったVision Foundation Modelを統合する、トレーニング不要のコラボレーティブパイプラインは、強力なオープン語彙密度予測を実現する。 入力画素,モデル重み,トレーニングデータを変更することなく,このインターフェースを利用する推論時攻撃であるCrACKを提案する。 実験により、CrACKは破滅的な劣化を引き起こすが、個々のモデルはそのまま独立して出力を出力し続ける。
  論文  参考訳（メタデータ） (2026-09-07T13:47:33Z)
• The Governance of Human-LLM Interaction: Safety Gating, Civility Steering, and Affective Default Lock-In [0.9558392439655014]
  大規模言語モデル (LLMs) は、金融、医療、精神保健支援における高額な相互作用をますます仲介する。 プロバイダ側のアライメントは有害なコンテンツをブロックしますが、通信上のデフォルトを安定化します。 通信形態に対するプロバイダ制御の観測可能な指標として,迅速なステアビリティとレグレッション・トゥ・デフォルト(regressive-to-default)が示されている。
  論文  参考訳（メタデータ） (2026-06-06T13:36:37Z)
• Selective Safety Steering via Value-Filtered Decoding [54.87935112120107]
  大型言語モデル(LLM)は人間の価値観に合わせるように訓練されているが、その世代は安全上の制約に反する可能性がある。 既存のデコード時のステアリング手法は、しばしば不要に介入し、ベースモデルの下で安全であった世代を変更する。 安全でない応答の安全性を向上しつつ、そのような不要な介入を減らすための新しいテストタイムステアリング手法を提案する。
  論文  参考訳（メタデータ） (2026-05-14T12:13:08Z)
• Invisible Safety Threat: Malicious Finetuning for LLM via Steganography [74.00809267925642]
  妥協された大きな言語モデルは、有害なコンテンツを隠蔽しながら適切な安全アライメントのファサードを維持することができる。 OpenAIファインタニングAPIの保護にもかかわらず、GPT-4.1のこの目に見えない安全脅威を実証する。 本稿では,コンテンツ安全分類のためのLlama-Guard-3-8Bを用いて,AdvBenchデータセット上での手法を定量的に評価する。
  論文  参考訳（メタデータ） (2026-03-09T08:48:27Z)
• The Violation State: Safety State Persistence in a Multimodal Language Model Interface [0.0]
  マルチモーダルAIシステムは、テキスト生成、画像生成、その他の機能を単一の会話インターフェースに統合する。 シングルターン拒否は期待されているが、安全フィルタと会話レベル状態の相互作用はよく理解されていない。 本稿では,ChatGPT (GPT-5.1) Webインターフェースにおける再現可能な動作効果について述べる。
  論文  参考訳（メタデータ） (2025-12-18T15:50:32Z)
• AHELM: A Holistic Evaluation of Audio-Language Models [78.20477815156484]
  マルチモーダルオーディオ言語モデル(ALM)は、インターリーブされた音声とテキストを入力および出力テキストとして取り込む。 AHELMは、PARADEとCoRe-Benchと呼ばれる2つの新しい合成オーディオテキストデータセットを含む、さまざまなデータセットを集約するベンチマークである。 また、モデル間の等価比較を確保するために、プロンプト、推論パラメータ、評価指標を標準化する。
  論文  参考訳（メタデータ） (2025-08-29T07:40:39Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)
• ExpShield: Safeguarding Web Text from Unauthorized Crawling and Language Modeling Exploitation [17.71790411163849]
  そこで本研究では,非知覚的テキスト摂動によるサンプル固有の記憶を緩和する,能動的自己防衛機構であるExpShiledを提案する。 当社のアプローチでは、オリジナルの可読性を維持しながら外部とのコラボレーションは必要ありません。 プライバシーのバックドアがあっても、MIA(Community Inference Attack)のAUCは0.95から0.55に低下し、インスタンスエクスプロイトは0に近づいた。
  論文  参考訳（メタデータ） (2024-12-30T17:52:02Z)
• "My Answer is C": First-Token Probabilities Do Not Match Text Answers in Instruction-Tuned Language Models [40.867655189493924]
  言語生成のオープンな性質は、大規模言語モデル(LLM)の評価を困難にしている。 1つの一般的な評価手法は、応答空間を制限するためにMulti-choice Question (MCQ) を用いる。 そこで本研究では,テキストの出力を数次元で評価する。
  論文  参考訳（メタデータ） (2024-02-22T12:47:33Z)
• Navigating the OverKill in Large Language Models [84.62340510027042]
  モデルがどのように処理し,クエリの安全性を判断するかを検討することで,過剰スキルの要因について検討する。 以上の結果から,モデル内にショートカットが存在することが明らかとなり,"キル"のような有害な単語が過剰に認識され,安全性が強調され,過度なスキルが増すことが示唆された。 我々は、この現象を緩和するために、トレーニングフリーでモデルに依存しないセルフコントラストデコーディング(Self-Contrastive Decoding、CD)を導入する。
  論文  参考訳（メタデータ） (2024-01-31T07:26:47Z)
• High-Fidelity Speech Synthesis with Minimal Supervision: All Using Diffusion Models [56.00939852727501]
  最小教師付き音声合成は、2種類の離散音声表現を組み合わせることでTSを分離する。 非自己回帰フレームワークは、制御可能性を高め、持続拡散モデルは、多様化された韻律表現を可能にする。
  論文  参考訳（メタデータ） (2023-09-27T09:27:03Z)
• Are aligned neural networks adversarially aligned? [93.91072860401856]
  敵のユーザは、アライメントの試みを回避できるインプットを構築できる。 既存のNLPベースの最適化攻撃は、整列したテキストモデルを確実に攻撃するには不十分であることを示す。 我々は、NLP攻撃の改善が、テキストのみのモデルに対して、同じレベルの逆制御を示す可能性があると推測する。
  論文  参考訳（メタデータ） (2023-06-26T17:18:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。