本記事は https://developer.nvidia.com/blog/build-a-log-analysis-multi-agent-self-corrective-rag-system-with-nvidia-nemotron/ の解説記事です。 ブログ概要（Summary） NVIDIAが公開したこの技術ブログでは、LangGraphの有向グラフベースのワークフローを用いて...

本記事は Anthropic公式ブログ: Prompt caching with Claude および Claude APIドキュメント の解説記事です。 ブログ概要（Summary） Anthropicは2024年8月にClaude APIのプロンプトキャッシュ機能をGA（一般提供）としてリリースした。この機能は、APIコール間で頻繁に使われるコンテキスト（システムプロンプト、ドキュメ...

本記事は https://arxiv.org/abs/2503.09516 の解説記事です。 論文概要（Abstract） Reserら（2025）は、臨床診療ガイドライン（CPG）の検索と情報合成を目的としたAgentic RAGシステムを提案している。本システムの特徴は、Knowledge Graph（KG）ベースの検索とベクトル検索の2つの検索戦略を、スーパーバイザーエージェントが...

本記事は arXiv:2311.04934 の解説記事です。 論文概要（Abstract） LLM推論におけるプロンプト処理は、トークン長が1,000を超えることが一般的になりレイテンシの支配的要因となっている。著者らは、異なるLLMクエリ間でプロンプトの共通テキストセグメント（システムプロンプト、ドキュメントコンテキスト等）のAttention States（KVキャッシュ）を再利用す...

論文概要（Abstract） CacheBlendは、RAGシステムで検索された文書チャンクのKVキャッシュを事前計算・永続保存し、推論時に「選択的再計算（Selective Recomputation）」で効率的に結合する手法を提案する。全トークンのKVキャッシュを再計算する従来手法と異なり、チャンク間のAttention依存が強いトークンのみを選択的に再計算することで、計算量を85%削...

論文概要（Abstract） TheAgentCompanyは、LLMエージェントが実世界の業務タスクをどの程度自律的に遂行できるかを評価するベンチマークである。ソフトウェア企業の環境をセルフホスト型のインフラで再現し、GitLab・RocketChat・ownCloud・Planeなど実務で使われるツール群を統合した175の業務タスクを提供する。最も高性能なエージェントでも自律的に完了で...

ブログ概要（Summary） NVIDIA Technical Blogの本記事は、合成データを用いたRAGパイプラインの自動評価・最適化フレームワークを解説しています。NVIDIA NeMo CuratorとNIM microservicesを活用し、(1) 高品質な合成QAペアの自動生成、(2) 埋め込みモデルの定量評価、(3) Hard-Negative Miningによるファインチ...

ブログ概要（Summary） AWS公式ブログは、Amazon MemoryDB（Redis互換のインメモリデータベース）をセマンティックキャッシュとして活用し、生成AIワークロードの速度向上とコスト削減を実現するアーキテクチャを提示する。MemoryDBのベクトル検索機能を用いてクエリの意味的類似度を判定し、類似クエリに対してキャッシュから即座に応答を返す。AWSの実験では、LLM推論コ...

本記事は Anthropic Engineering Blog: Code execution with MCP: building more efficient AI agents の解説記事です。 ブログ概要（Summary） Anthropic のエンジニアリングチームは、MCP サーバと連携する LLM エージェントの効率化のために、コード実行によるプログラマティックツール呼び出...

論文概要（Abstract） 本論文は、LLM（大規模言語モデル）ベースのエージェントの評価とベンチマークに関する包括的なサーベイである。著者らは、急速に拡大するLLMエージェント評価の研究領域を2次元の分類体系で整理している。第1の次元は「何を評価するか」（評価目標）であり、エージェントの行動・能力・信頼性・安全性の4カテゴリに分類される。第2の次元は「どう評価するか」（評価プロセス）で...