本記事は Retrieval Augmented Generation or Long-Context LLMs? A Comprehensive Study and Hybrid Approach の解説記事です。EMNLP 2024 Industry Track採択。 論文概要（Abstract） RAG（Retrieval Augmented Generation）はLLMが長大な...

本記事は Verbatim Chunks Beat Extracted Artifacts: A Controlled Ablation of Memory Representations for Long LLM Conversations の解説記事です。 論文概要（Abstract） 長期LLM会話システムにおいて、過去の対話をどのような形式で保存し検索するかはシステム品質に直結す...

本記事は OpenAI for Developers in 2025 および関連する公式ドキュメント（Conversation State、Compaction）の解説記事です。 ブログ概要（Summary） OpenAIは2025年3月にResponses APIを発表し、同年8月26日にAssistants API（ベータ）の廃止を通告した。廃止期限は2026年8月26日である。Re...

本記事は ACON: Optimizing Context Compression for Long-horizon LLM Agents の解説記事です。 論文概要（Abstract） LLMエージェントが長期タスクで蓄積する観察履歴と行動履歴は、コンテキストウィンドウの溢れとトークンコストの急増を引き起こす。著者らはAgent Context Optimization（ACON）を提...

本記事は MemGPT: Towards LLMs as Operating Systems の解説記事です。 論文概要（Abstract） LLMは限られたコンテキストウィンドウにより、長期会話やドキュメント解析でのユーティリティが制約される。著者らは、従来のOSにおける階層的メモリシステムからの着想を得て「仮想コンテキスト管理（virtual context management）」...

本記事は PromptPex: Automatic Test Generation for Language Model Prompts の解説記事です。 論文概要（Abstract） プロンプトはLLMアプリケーションにおいて従来のソースコードに相当する役割を果たすが、その品質検証のための体系的なテスト手法は確立されていない。Sharma et al.（Microsoft Resear...

本記事は A Survey of Context Engineering for Large Language Models の解説記事です。 論文概要（Abstract） Mei et al.は、コンテキストエンジニアリング（Context Engineering）をプロンプトエンジニアリングの上位概念として定式化し、LLM推論時に提供される情報ペイロード全体の体系的な最適化として位置...

本記事は When Generic Prompt Improvements Hurt: Evaluation-Driven Iteration for LLM Applications の解説記事です。 論文概要（Abstract） 「プロンプトを改善すれば性能は上がる」という直感に反する現象を実証した論文である。著者Commeyは、汎用的なプロンプト改善（helpful assista...

本記事は A Systematic Approach for Large Language Models Debugging の解説記事です。 論文概要（Abstract） LLMのデバッグは、出力が確率的であり動作が不透明であるため、従来のソフトウェアデバッグとは本質的に異なる課題を抱えている。Shbita et al.は、LLMを「観測可能なシステム（observable syste...

本記事は A Taxonomy of Prompt Defects in LLM Systems の解説記事です。 論文概要（Abstract） プロンプトはLLMの事実上のプログラミングインターフェースとして機能するが、その設計は依然として経験的な試行錯誤に依存している。Tian et al.は、プロンプトがどのように意図した動作からの逸脱（欠陥）を生じるかを体系的に調査し、6つの次元...