最近の更新
本記事は HalluDetect: Detecting, Mitigating, and Benchmarking Hallucinations in Conversational Systems in the Legal Domain (arXiv:2509.11619) の解説記事です。 論文概要（Abstract） Spandan Anaokar, Shrey Ganatra, H...
論文概要（Abstract） 本記事は https://arxiv.org/abs/2501.10868 の解説記事です。 JSONSchemaBenchは、LLMの構造化出力（Structured Output）を体系的に評価するベンチマークである。著者らは10,000件の実世界JSONスキーマを収集し、効率（efficiency）・カバレッジ（coverage）・品質（quality...
論文概要（Abstract） 本記事は https://arxiv.org/abs/2510.09665 の解説記事です。 LMCacheは、LLM推論におけるKVキャッシュをGPUメモリの外部に移動し、クエリ間および推論エンジン間で共有可能にするKVキャッシュ管理レイヤーである。従来、KVキャッシュはGPUメモリ上にのみ存在し、個々のクエリ処理後に破棄されていた。LMCacheはこのK...
論文概要（Abstract） 本記事は https://arxiv.org/abs/2605.05532 の解説記事です。 Lincoln らは、法的契約書からの構造化データ抽出タスクにおいて、ドメイン特化の小規模 Mixture of Experts（MoE）モデル「Olava Extract」が、5つの主要フロンティア LLM（Claude Opus 4.6、Claude Sonne...
論文概要（Abstract） 本記事は https://arxiv.org/abs/2508.03080 の解説記事です。 ContractEvalは、商業契約書からの条項レベルのリスク特定タスクにおいてLLMの性能を体系的に評価するベンチマークである。著者らはCUAD（Contract Understanding Atticus Dataset）テストセットの4,128データポイント・...
本記事は PromptArmor: Simple yet Effective Prompt Injection Defenses (arXiv:2507.15219) の解説記事です。 論文概要（Abstract） 本論文は、LLMエージェントに対するプロンプトインジェクション攻撃を防御するための3段階フレームワーク「PromptArmor」を提案している。著者らは、専用モデルの訓練を必...
本記事は MELON: Provable Defense Against Indirect Prompt Injection Attacks in AI Agents (arXiv:2502.05174) の解説記事です。 論文概要 MELONは、LLMエージェントに対する間接プロンプトインジェクション（IPI）攻撃を検出するための防御フレームワークである。著者らは「攻撃が成功するとエー...
本記事は Securing AI Agents with Information-Flow Control (arXiv:2505.23643) の解説記事です。 論文概要（Abstract） Manuel Costa, Boris Kopf, Aashish Kolluri, Andrew Paverd, Mark Russinovich, Ahmed Salem, Shruti To...
論文概要 本記事は LlamaFirewall: An open source guardrail system for building secure AI agents (arXiv:2505.03574) の解説記事です。 Chennabasappa et al. (2025) は、LLMエージェントに対するプロンプトインジェクション・間接的なプロンプトインジェクション・安全でない...
論文概要 本記事は Defeating Prompt Injections by Design (arXiv:2503.18813) の解説記事です。 著者らは、LLMエージェントに対するプロンプトインジェクション攻撃をアーキテクチャレベルで防御するフレームワーク「CaMeL（CApabilities for MachinE Learning）」を提案している。CaMeLは、LLM自体の...