論文の概要: ASCII Attack: Recontextualising Harmful Requests as Artistic Critique in Large Language Models

• arxiv url: http://arxiv.org/abs/2609.02215v1
• Date: Wed, 02 Sep 2026 07:29:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-03 17:53:18.133765
• Title: ASCII Attack: Recontextualising Harmful Requests as Artistic Critique in Large Language Models
• Title（参考訳）: ASCII攻撃: 大規模言語モデルにおける芸術的批判としての有害な要求の再定義
• Abstract要約: ASCIIアタックはシングルターンとブラックボックスで、1つのメッセージであり、モデル内部へのアクセスがない。 ASCIl-artキャラクタに完全に妥当な有害な要求を埋め込み、それをアートワークとして提示し、フィードバックを求める。 回答は芸術的批評として書かれており、平易な要求が拒否されたであろう運用上の詳細を含むことができる。
• 参考スコア（独自算出の注目度）: 23.515484517902156
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Safety alignment trains large language models to refuse harmful requests stated plainly, but that training is applied mostly to surface form. Requests that only recontextualise the same operational content, changing how the model reads it, are therefore only weakly covered. The ASCII Attack is one such recontextualisation. It is single-turn and black-box: one message, with no access to model internals. It embeds a fully legible harmful request in ASCIl-art characters, presents it as artwork, and asks for feedback. Unlike ArtPrompt, it hides nothing: the request stays readable. The reply is written as artistic critique and can contain operational detail that a plain request would have been refused for. Every framed prompt is paired with a direct-question control, so the contrast is isolated from topic, model and decoding variation. The contrast identifies a bundled surface, not one isolated channel. Across eleven models and eight harm topics, a harm-aware classifier judges 62% of framed prompts harmful against 42% of controls. On the most susceptible model the framed prompt succeeds 93% of the time. A single query matches or exceeds published single-query attacks under four of five harm judges. The effect tracks the model more than the topic and does not diminish with scale. At least one judge dissents from the panel majority on nearly two-thirds of framed rows, which is itself a measurement-validity finding. That pattern is consistent with mismatched generalisation.
• Abstract（参考訳）: 安全アライメントは大きな言語モデルを訓練し、有害な要求をプレーンに拒否するが、そのトレーニングは主に表面的な形式に適用される。 したがって、同じ操作内容のみを再コンテキスト化し、モデルがどのように読み込むかを変更する要求は、弱くしかカバーされない。 ASCIIアタックはそのような再文化の1つである。 シングルターンとブラックボックス:1つのメッセージで、モデル内部にアクセスできない。 ASCIl-artキャラクタに完全に妥当な有害な要求を埋め込み、それをアートワークとして提示し、フィードバックを求める。 ArtPromptとは異なり、何も隠さない。 回答は芸術的批評として書かれており、平易な要求が拒否されたであろう運用上の詳細を含むことができる。 すべてのフレームドプロンプトは直接要求制御とペアリングされるので、コントラストはトピック、モデル、デコードの変化から分離される。 コントラストは1つの孤立したチャネルではなく、バンドルされた曲面を識別する。 11のモデルと8の有害トピックで、調和認識分類器はフレームの62%を判断し、コントロールの42%に対して有害なプロンプトを判断する。 最も感受性の高いモデルでは、フレーム化されたプロンプトは93%の時間で成功する。 単一のクエリは、5人の害判断者のうち4人の下で発行された単一クエリアタックと一致または超過する。 この効果は、トピックよりもモデルを追跡し、スケールによって減少しない。 少なくとも1人の裁判官は、ほぼ3分の2のフレーム付き行でパネルの過半数から反対している。 そのパターンは、不一致の一般化と一致します。

関連論文リスト

• Door-in-the-Face Requests and Refusal Behaviour in Large Language Models [0.0]
  人間では、拒否される大きなリクエストは、より小さなフォローアップリクエストを付与する可能性が高い。 これを3つのプロバイダの9つのプロダクションモデルでテストします。
  論文  参考訳（メタデータ） (2026-09-02T15:08:51Z)
• Prompt Design at Scale: How Format, Instruction Count, and Context Length Shape Instruction Adherence and Hallucination in Large Language Models [0.0]
  2つの実験は、保持された汚染のない合成コーパス上の3つの因子全てを横断する。 実験1では,規則数Nが10から160に増加するにつれて,命令追従減衰を測定する。 実験2では, 2k-to-512k-tokenのコンテキストラグ上での精度, 虚偽の前提条件, ファクトファクトファクトファクチャリングの測定を行った。
  論文  参考訳（メタデータ） (2026-07-21T16:31:35Z)
• What Do People Actually Want From AI? Mapping Preference Plurality [4.973144469436077]
  75か国にわたるPRISMデータセットからの1500のオープンエンドレスポンスを分析し、AIシステムから人々が実際に何を望んでいるかを調べる。 ほとんどの値は回答者の4分の1以下で、唯一の例外は49%です。 特定の機能、すなわち人間のようなモデルがどのように振る舞うか、そしてガードレールのようないくつかの機能は、完全に議論の余地がある。
  論文  参考訳（メタデータ） (2026-06-04T19:47:29Z)
• Red Teaming Multimodal Language Models: Evaluating Harm Across Prompt Modalities and Models [0.0]
  マルチモーダル大規模言語モデル (MLLM) は, 現実の応用においてますます利用されているが, 敵条件下での安全性はいまだ検討されていない。 本研究は,テキストのみおよびマルチモーダル形式にまたがる敵対的プロンプトに曝露した4つのMLLMの無害性を評価する。
  論文  参考訳（メタデータ） (2025-09-18T22:51:06Z)
• BadReward: Clean-Label Poisoning of Reward Models in Text-to-Image RLHF [15.654937341468239]
  Reinforcement Learning from Human Feedback (RLHF) は、テキスト・ツー・イメージ(T2I)モデルを人間の好みに合わせるために重要である。 本稿では,少数の嗜好データを自然出現例で有毒化することにより,Hyjacking T2Iモデルの実現可能性を示す。 我々は,マルチモーダルRLHFにおける報酬モデルをターゲットにした,ステルスなクリーンラベル中毒攻撃であるBadRewardを提案する。
  論文  参考訳（メタデータ） (2025-06-03T16:01:04Z)
• An Embarrassingly Simple Defense Against LLM Abliteration Attacks [47.347413305965006]
  失語症と呼ばれる最近の攻撃は、拒否行動に最も責任がある唯一の潜伏方向を特定し、抑制する。 本稿では、モデルが拒否を表現する方法を根本的に変える防衛法を提案する。 微調整のLlama-2-7B-ChatとQwen2.5-Instructは、消音下で高い断熱率を維持するモデルを生成する。
  論文  参考訳（メタデータ） (2025-05-25T09:18:24Z)
• Refusal Tokens: A Simple Way to Calibrate Refusals in Large Language Models [68.15108215197279]
  安全で信頼性の高い言語モデルを構築する上で重要な要素は、モデルが特定の質問に答えることを適切に拒否することである。 本稿では,学習中のモデルの応答に先立って,各拒絶カテゴリに対する1つのそのようなトークン,あるいは1つの拒絶トークンを提案する。
  論文  参考訳（メタデータ） (2024-12-09T18:40:44Z)
• Navigating the OverKill in Large Language Models [84.62340510027042]
  モデルがどのように処理し,クエリの安全性を判断するかを検討することで,過剰スキルの要因について検討する。 以上の結果から,モデル内にショートカットが存在することが明らかとなり,"キル"のような有害な単語が過剰に認識され,安全性が強調され,過度なスキルが増すことが示唆された。 我々は、この現象を緩和するために、トレーニングフリーでモデルに依存しないセルフコントラストデコーディング(Self-Contrastive Decoding、CD)を導入する。
  論文  参考訳（メタデータ） (2024-01-31T07:26:47Z)
• Frontier Language Models are not Robust to Adversarial Arithmetic, or "What do I need to say so you agree 2+2=5? [88.59136033348378]
  言語モデルアライメントのための単純なテストベッドを提供する逆算術の問題を考察する。 この問題は自然言語で表される算術的な問題から成り、質問が完了する前に任意の逆文字列を挿入する。 これらの攻撃に対して、強化学習やエージェント構成ループを通じて、モデルを部分的に強化できることが示される。
  論文  参考訳（メタデータ） (2023-11-08T19:07:10Z)
• Holistic Analysis of Hallucination in GPT-4V(ision): Bias and Interference Challenges [54.42256219010956]
  このベンチマークは、視覚言語モデルにおける2つの一般的な幻覚、すなわちバイアスと干渉を評価するために設計されている。 偏見はモデルがある種の反応を幻覚させる傾向を示すもので、おそらくはトレーニングデータの不均衡によるものである。 干渉とは、テキストプロンプトのフレーズ化や入力画像の表示方法によって、GPT-4V(ision)の判定が破壊されるシナリオである。
  論文  参考訳（メタデータ） (2023-11-06T17:26:59Z)
• Understanding writing style in social media with a supervised contrastively pre-trained transformer [57.48690310135374]
  オンラインソーシャルネットワークは、ヘイトスピーチから偽情報の拡散まで、有害な行動の場として機能している。 本稿では, 4.5 x 106テキストの公開資料から得られた大規模コーパスに基づいて学習したStyle Transformer for Authorship Representations (STAR)を紹介する。 512個のトークンからなる8つのドキュメントからなるサポートベースを使用して、著者を最大1616人の著者のセットから、少なくとも80%の精度で識別することができる。
  論文  参考訳（メタデータ） (2023-10-17T09:01:17Z)
• Edited Media Understanding Frames: Reasoning About the Intent and Implications of Visual Misinformation [62.68385635551825]
  ディープフェイク(deepfakes)から単純な編集(deepfakes)までの多モーダルな偽情報は、社会的な重要な問題である。 この例と偽情報を広める有害な編集の違いは意図の1つである。 この意図を認識して記述することは、今日のAIシステムにとって大きな課題である。
  論文  参考訳（メタデータ） (2020-12-08T20:30:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。