最近の更新
本記事は https://arxiv.org/abs/2512.12686 の解説記事です。 論文概要（Abstract） Memoriaは、会話型AIシステムにおける長期メモリ能力を強化するために設計されたエージェントメモリフレームワークである。認知心理学のAtkinson-Shiffrinモデルに着想を得て、Sensory Memory、Short-Term Memory（STM）、...
本記事は https://aws.amazon.com/blogs/machine-learning/strands-agents-sdk-a-technical-deep-dive-into-agent-architectures-and-observability/ の解説記事です。 ブログ概要（Summary） AWSが公開したStrands Agents SDKは、LLMエージェ...
本記事は MemMachine: A Ground-Truth-Preserving Memory System for Personalized AI Agents（Al-Omari et al., 2025）の解説記事です。 論文概要（Abstract） AIモデルがstatelessなエンジンからstatefulなエージェントへと進化する中で、対話履歴を跨いでユーザーの情報を保持・...
本記事は DoVer: Intervention-Driven Auto Debugging for LLM Multi-Agent Systems（Ma et al., 2025）の解説記事です。 論文概要（Abstract） LLMベースのマルチエージェントシステムは複雑なタスクを解決できる一方、障害発生時のデバッグが困難です。従来のログ分析では、長く分岐する実行トレースの中から障害...
本記事は MemoRAG: Moving Towards Next-Gen RAG via Memory-Inspired Knowledge Discovery（Qian et al., 2024）の解説記事です。 論文概要（Abstract） 長大なコンテキストの処理はLLMにとって依然として大きな課題です。近年のLLMは32Kや128Kトークンのコンテキストウィンドウを扱えるように...
本記事は arXiv:2401.02954 MuxServe: Flexible Spatial-Temporal Multiplexing for Multiple LLM Serving の解説記事です。 論文概要（Abstract） MuxServeは、複数のLLMを単一GPU（またはGPUクラスタ）上で効率的にサービングするために、空間的多重化（GPU Streaming Mul...
本記事は vLLM Performance Tuning: The Ultimate Guide to xPU Inference Configuration の解説記事です。 ブログ概要（Summary） Google CloudのField Solution ArchitectであるEric Hanleyらが2025年8月に公開したこのブログ記事は、vLLMの推論パフォーマンスを体系...
本記事は arXiv:2406.03243 ServerlessLLM: Low-Latency Serverless Inference for Large Language Models の解説記事です。 論文概要（Abstract） ServerlessLLMは、サーバレス（scale-to-zero）環境でLLM推論を行う際のコールドスタート問題を解決するシステムである。著者らは...
本記事は Closing the efficiency gap in LLM serving with model co-hosting with Vertex AI の解説記事です。 ブログ概要（Summary） Google Cloudのエンジニアリングチーム（Ivan Nardini, Kathy Yu, Jiuqiang Tang）が2026年3月に公開したこのブログ記事は、Ve...
本記事は arXiv:2309.06180 Efficient Memory Management for Large Language Model Serving with PagedAttention の解説記事です。 論文概要（Abstract） PagedAttentionは、OSの仮想メモリにおけるページング機構に着想を得たアテンションアルゴリズムであり、LLM推論時のKVキャ...