Home
0h-n0 TechBLog
キャンセル

📄 論文解説: Rethinking HNSW — HNSWの階層構造は本当に必要か?

本記事は arXiv:2502.11593 “Rethinking HNSW: How Much Does It Actually Need?” の解説記事です。 論文概要(Abstract) HNSW(Hierarchical Navigable Small World)グラフは近似最近傍探索(ANN)の事実上の標準アルゴリズムとして広く利用されている。その効率性は階層構造とスモールワ...

✍️ NVIDIA技術ブログ解説: LangChainのプロンプトインジェクション脆弱性3件とLLMセキュリティの教訓

本記事は NVIDIA Technical Blog: Securing LLM Systems Against Prompt Injection の解説記事です。 ブログ概要(Summary) NVIDIA AI Red TeamのRich Harang氏が執筆した本ブログでは、LLMフレームワークLangChainに存在した3件の重大な脆弱性(CVE-2023-29374、CVE-2...

📄 NAACL 2025論文解説: Attention Tracker — アテンション解析によるプロンプトインジェクション検出

本記事は NAACL 2025 Findings: Attention Tracker: Detecting Prompt Injection Attacks in LLMs の解説記事です。 論文概要(Abstract) 本論文は、LLMのアテンション機構を分析することでプロンプトインジェクション攻撃を検出するゼロショット手法「Attention Tracker」を提案している。著者ら...

📄 NAACL 2025論文解説: Adaptive Attacks Break Defenses Against Indirect Prompt Injection Attacks on LLM Agents

本記事は NAACL 2025 Findings: Adaptive Attacks Break Defenses Against Indirect Prompt Injection Attacks on LLM Agents の解説記事です。 論文概要(Abstract) LLMエージェントが外部ツール・データを統合する際に生じる間接プロンプトインジェクション(IPI: Indirec...

📄 論文解説: Prompt Injection Attacks and Defenses in LLM-Integrated Applications

本記事は arXiv:2410.05451 の解説記事です。 論文概要(Abstract) LLMをバックエンドとして統合したアプリケーション(メールクライアント、QAシステム、AIエージェント等)に対するプロンプトインジェクション攻撃の防御を体系的に評価した初の研究である。著者らは7種の代表的攻撃と10種の既存防御を4つのLLM・2つのタスクで経験的に評価し、既存防御の不十分さを明らか...