論文の概要: Fighting Fire with Fire: On the Feasibility of Protecting Exercises Against AI Cheating

• arxiv url: http://arxiv.org/abs/2608.01112v1
• Date: Sun, 02 Aug 2026 09:16:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-04 15:07:25.08622
• Title: Fighting Fire with Fire: On the Feasibility of Protecting Exercises Against AI Cheating
• Title（参考訳）: 火で戦う:AIの暖房に対する運動を保護できる可能性
• Abstract要約: 我々は,このような腐食的依存から教育演習を保護するために,敵対的機械学習を再利用できるかどうかを検討する。 提案手法では,視覚成分を微妙な視覚摂動で保護できるマルチモーダル多重選択質問を用いた。 解答器を盲目的にコピーした学生は、真の学生よりも、誘導された解答パターンを頻繁に再現する。
• 参考スコア（独自算出の注目度）: 7.425558351422134
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The widespread adoption of generative AI enables students to outsource cognitive effort to increasingly capable assistants, creating an illusion of competence while undermining the independent reasoning that education aims to cultivate. We investigate whether adversarial machine learning can be repurposed to protect educational exercises against such corrosive reliance. Our approach uses multimodal multiple-choice questions whose visual components can be protected with subtle visual perturbations that steer AI solvers toward designated incorrect answers. These responses form a statistical fingerprint: students who blindly copy a solver reproduce the induced answer pattern more frequently than genuine students. We study the feasibility of this paradigm under realistic black-box assistant assumptions using three of the most common state-of-the-art multimodal language models: Anthropic's Claude, Google's Gemini, and OpenAI's ChatGPT. By using accessible surrogate models, we optimize adversarial perturbations that induce consistent response patterns. Those patterns enable principled detection through statistical hypothesis testing. These findings establish both the promise and the limitations of fighting machine-assisted reasoning with the vulnerabilities of the machines themselves.
• Abstract（参考訳）: ジェネレーティブAIの普及により、学生は認知活動のアウトソースを、ますます有能なアシスタントに提供し、教育が目的とする独立した理由を損なうと同時に、能力の錯覚を生み出すことができる。 我々は,このような腐食的依存から教育演習を保護するために,敵対的機械学習を再利用できるかどうかを検討する。 提案手法では,視覚的成分を微妙な視覚的摂動で保護し,AI解法を不正確な解へと導くマルチモーダルな多重選択質問を用いる。 これらの反応は統計的指紋を形成する: 解答器を盲目的にコピーした学生は、真の学生よりも、誘導された解答パターンをより頻繁に再現する。 我々は,このパラダイムの実現可能性について,ArthropicのClaude,GoogleのGemini,OpenAIのChatGPTの3つの最先端マルチモーダル言語モデルを用いて,現実的なブラックボックスアシスタント仮定の下で検討する。 アクセシブルサロゲートモデルを用いて、一貫した応答パターンを誘導する対向摂動を最適化する。 これらのパターンは統計的仮説テストによる原理的検出を可能にする。 これらの結果は、マシン自体の脆弱性でマシンアシスト推論と戦うことの約束と限界の両方を立証する。

関連論文リスト

• A Survey on Self-Improving Test-Time Intelligence: Feedback-Driven Adapting, Learning, and Scaling at Inference [72.19201465132619]
  このようなデプロイメント時間の改善を理解するための統一的な視点として,フィードバック駆動型テスト時間インテリジェンス(TTI)を提案する。 この視点は、テスト時適応、テスト時学習、テスト時スケーリングに関連するもので、ハイブリッドシステムにおけるそれらの相違点と相違点の両方を強調します。 私たちの目標は、テスト時に自己改善型AIシステムを研究するための、一貫性のある基礎と研究ロードマップを提供することです。
  論文  参考訳（メタデータ） (2026-09-01T11:41:39Z)
• Nonslop: A Gamified Experiment in Human-AI Collaborative Writing [4.079191726815924]
  この研究は、ユーザーがクリエイティビティの自主性を維持するか、ゲームのルールに違反し、AIアシストを受け入れるかを選択するかに焦点を当てている。 このゲーミフィケーションアプローチは、人間とAIの相互作用を研究するためのフレームワークと、AI強化クリエイティビティにおける効率性と信頼性の間の緊張を理解するための挑発的レンズの両方を提供する。
  論文  参考訳（メタデータ） (2026-06-10T17:21:38Z)
• Framing, Judging, Steering: An Assessable Competency Model for Teach-ing Students to Reason With Generative AI [47.027290803102666]
  生産的AI利用を3つの評価可能なスキルに分解する能力モデルであるCoRe-3(Co-Reasoning)を提案する。 理論上のスキルを基盤として、5つのテスト可能な提案を述べ、それらをCoReasoningLabでインスタンス化します。 人為的な合意と成果が次々に行われます。私たちは、計測器、データ、プロトコルをリリースします。
  論文  参考訳（メタデータ） (2026-06-04T10:25:31Z)
• Reimagining Assessment in the Age of Generative AI: Lessons from Open-Book Exams with ChatGPT [1.2183405753834562]
  ChatGPTのような生成AIシステムは、学生がリアルタイムで説明、コード、ソリューションを生成できるようにすることで、学術的評価に関する従来の仮定に挑戦する。 この研究は、AIの使用を制限するのではなく、学生が正式な評価中に実際にそのようなシステムとどのように相互作用するかを調査する。
  論文  参考訳（メタデータ） (2026-05-12T16:33:33Z)
• Safeguarding Privacy: Privacy-Preserving Detection of Mind Wandering and Disengagement Using Federated Learning in Online Education [53.25191965774678]
  遠隔学習における行動・認知障害の相違に対処するために,デバイス間フェデレーション学習を利用したフレームワークを提案する。 顔の表情と視線特徴を用いた映像ベース認知解離検出モデルに適合する。 以上の結果から,学習者のエンゲージメントを促進するプライバシー保護教育技術への大きな期待が示された。
  論文  参考訳（メタデータ） (2026-02-10T15:40:01Z)
• Can Large Reasoning Models Self-Train? [51.0277533541394]
  多数決投票を簡単な自己フィードバック機構として利用し、強化学習において自己学習が持続できるかどうかを検討する。 この基本的なアプローチは、モデルの推論性能だけでなく、次のRLイテレーションでより良い品質フィードバックを生成する能力も改善します。 しかし、我々の分析では、このような自己学習パラダイムの限界も明らかにしています - 自己回帰の長いRLは、報酬のハッキングにつながるため、突然、そして完全なパフォーマンスが崩壊します。
  論文  参考訳（メタデータ） (2025-05-27T17:16:00Z)
• Meta-Representational Predictive Coding: Biomimetic Self-Supervised Learning [51.22185316175418]
  メタ表現予測符号化(MPC)と呼ばれる新しい予測符号化方式を提案する。 MPCは、並列ストリームにまたがる感覚入力の表現を予測することを学ぶことによって、感覚入力の生成モデルを学ぶ必要性を助長する。
  論文  参考訳（メタデータ） (2025-03-22T22:13:14Z)
• The Imitation Game for Educational AI [23.71250100390303]
  本稿では,2相チューリング様試験に基づく新しい評価フレームワークを提案する。 フェーズ1では、学生は質問に対するオープンな回答を提供し、自然な誤解を明らかにします。 フェーズ2では、AIと人間の専門家の両方が、各学生の特定のミスを条件に、新しい関連する質問に気を散らす。
  論文  参考訳（メタデータ） (2025-02-21T01:14:55Z)
• Applying IRT to Distinguish Between Human and Generative AI Responses to Multiple-Choice Assessments [0.0]
  評価に複数の選択質問が広く使用されているにもかかわらず、AI不正の検出はほとんど調査されていない。 本稿では,このギャップに対処するための項目応答理論の適用法を提案する。 我々のアプローチは、人工知能と人間の知性が異なる応答パターンを示すという仮定に基づいている。
  論文  参考訳（メタデータ） (2024-11-28T09:43:06Z)
• Robust Transferable Feature Extractors: Learning to Defend Pre-Trained Networks Against White Box Adversaries [69.53730499849023]
  また, 予測誤差を誘導するために, 逆例を独立に学習した別のモデルに移すことが可能であることを示す。 本稿では,頑健な伝達可能な特徴抽出器(RTFE)と呼ばれる,ディープラーニングに基づく事前処理機構を提案する。
  論文  参考訳（メタデータ） (2022-09-14T21:09:34Z)
• Towards A Conceptually Simple Defensive Approach for Few-shot classifiers Against Adversarial Support Samples [107.38834819682315]
  本研究は,数発の分類器を敵攻撃から守るための概念的簡便なアプローチについて検討する。 本稿では,自己相似性とフィルタリングの概念を用いた簡易な攻撃非依存検出法を提案する。 ミニイメージネット(MI)とCUBデータセットの攻撃検出性能は良好である。
  論文  参考訳（メタデータ） (2021-10-24T05:46:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。