本記事は NVIDIA Technical Blog: Securing LLM Systems Against Prompt Injection の解説記事です。 ブログ概要（Summary） NVIDIA AI Red TeamのRich Harang氏が執筆した本ブログでは、LLMフレームワークLangChainに存在した3件の重大な脆弱性（CVE-2023-29374、CVE-2...

本記事は NAACL 2025 Findings: Attention Tracker: Detecting Prompt Injection Attacks in LLMs の解説記事です。 論文概要（Abstract） 本論文は、LLMのアテンション機構を分析することでプロンプトインジェクション攻撃を検出するゼロショット手法「Attention Tracker」を提案している。著者ら...

本記事は NAACL 2025 Findings: Adaptive Attacks Break Defenses Against Indirect Prompt Injection Attacks on LLM Agents の解説記事です。 論文概要（Abstract） LLMエージェントが外部ツール・データを統合する際に生じる間接プロンプトインジェクション（IPI: Indirec...

本記事は NVIDIA Technical Blog: Mitigating Stored Prompt Injection Attacks Against LLM Applications の解説記事です。 ブログ概要（Summary） NVIDIA AI Red TeamのJoseph Lucas氏が執筆したこの技術ブログでは、LLMアプリケーションにおける「Stored Promp...

本記事は arXiv:2410.05451 の解説記事です。 論文概要（Abstract） LLMをバックエンドとして統合したアプリケーション（メールクライアント、QAシステム、AIエージェント等）に対するプロンプトインジェクション攻撃の防御を体系的に評価した初の研究である。著者らは7種の代表的攻撃と10種の既存防御を4つのLLM・2つのタスクで経験的に評価し、既存防御の不十分さを明らか...

本記事は SWE-RL: Advancing LLM Reasoning via Reinforcement Learning on Open Software Evolution（Wei et al., 2025）の解説記事です。 論文概要（Abstract） SWE-RLは、オープンソースのGitHubリポジトリから収集した11万件以上の「ソフトウェア進化」データ（Issue→コミッ...

本記事は Agentless: Demystifying LLM-based Software Engineering Agents（Xia et al., 2024）の解説記事です。 論文概要（Abstract） Agentlessは、複雑なエージェント構造（ツール使用、動的計画、マルチエージェント）を一切使用せず、「定位（Localization）→ 修復（Repair）→ パッチ検...

本記事は AI in software engineering at Google: Progress and the path ahead（Satish Chandra & Maxim Tabachnyk, Google Research, 2024年6月）の解説記事です。 ブログ概要（Summary） Googleのソフトウェアエンジニアリング部門は、MLベースのコード補完機...

本記事は How AI assistance impacts the formation of coding skills（Anthropic Research, 2026年1月）の解説記事です。 ブログ概要（Summary） Anthropic Researchは、AIコーディングアシスタントが開発者のスキル習得にどのような影響を与えるかを、ランダム化比較試験（RCT）で検証した。52...

本記事は Mistral-SPLADE: LLMs for better Learned Sparse Retrieval (arXiv:2408.11119) の解説記事です。 論文概要（Abstract） Echo-Mistral-SPLADEは、デコーダ系LLM（Mistral-7B）の言語理解能力をスパース検索に導入する手法である。著者らは、Echo Embedding（入力テキ...