論文概要（Abstract） 本記事は Exploring the Necessity of Reasoning in LLM-based Agent Scenarios の解説記事です。 著者らはLaRMA（Large Reasoning Models in Agent scenarios）フレームワークを提案し、従来型のLLM（Large Language Model）と推論特化型の...

論文概要（Abstract） Hierarchical Memory Orchestration（HMO）は、長期対話型エージェントが蓄積する膨大なインタラクションデータに対し、3層のメモリ階層とユーザーペルソナ駆動の動的再配置メカニズムで効率的に対処するフレームワークである。単純なストレージ拡張では検索ノイズと計算レイテンシが増大する問題に対し、ユーザー中心の関連性に基づいてメモリをTi...

論文概要 大規模言語モデル（LLM）を用いたツール利用エージェントは、複数ターンの対話を通じて外部ツールを呼び出しながらタスクを解決する。しかし既存手法では過去の経験を体系的に活用する仕組みが不十分であり、同じツール選択の失敗を繰り返すという課題がある。本論文で提案される H-EPM（Hybrid Episodic-Procedural Memory）は、成功した軌跡からエピソード記憶と手...

論文概要 Cognis は、会話AIエージェント向けのコンテキスト認識型メモリシステムである。OpenSearch BM25 キーワード検索と Matryoshka Embedding によるベクトル検索を Reciprocal Rank Fusion（RRF）で統合した Dual-Store バックエンドを核に、時間ブースティングや BGE-2 Cross-Encoder 再ランキングを...

論文概要 LLMがテキスト補完ツールから動的環境で動作するエージェントへと進化するなかで、長期的な知識の継続的学習と保持が課題となっている。本論文はポジションペーパーとして、エピソード記憶（Episodic Memory）がLLMエージェントの長期動作に不可欠な欠落要素であると主張している。著者らは認知科学におけるエピソード記憶の5つの特性を定義し、現在のLLMメモリシステムがこれらを十分...

本記事は https://www.langchain.com/blog/langmem-sdk-launch の解説記事です。本記事は引用・解説であり、独自の実験は行っていません。 1. ブログ概要 LangChainが2025年2月に公開したLangMem SDKは、AIエージェントに長期記憶を付与するためのライブラリである。人間の記憶モデルを参考に、セマンティック記憶（事実・知識）、...

本記事は LLM Inference Serving: Survey of Recent Advances and Opportunities の解説記事です。 論文概要（Abstract） 本サーベイは、2023年1月から2024年6月にかけて発表されたLLM推論サービングシステムの研究を体系的に整理したものである。著者らは、LLMのコアデコーディング機構を変更せずにパフォーマンスと効...

本記事は Scaling LLMs with NVIDIA Triton and NVIDIA TensorRT-LLM Using Kubernetes の解説記事です。2024年10月22日公開。 ブログ概要（Summary） NVIDIA Developer Blogの本記事では、TensorRT-LLMによるモデル最適化、Triton Inference Serverによる推論サ...

NVIDIA AI Red Team解説: LLMアプリケーション3大脆弱性と実践的防御策 本記事は Practical LLM Security Advice from the NVIDIA AI Red Team の解説記事です。 ブログ概要 NVIDIAのAI Red Teamが数十のAIアプリケーションを実際に評価する中で特定した、LLMアプリケーションに共通する 3つの重大な...

本記事は vAttention: Dynamic Memory Management for Serving LLMs without PagedAttention の解説記事です。 論文概要 vAttentionは、LLM推論サービングにおけるKVキャッシュのメモリ管理を根本から再設計した手法である。従来のPagedAttentionがKVキャッシュの仮想メモリ上の連続性を犠牲にして物...