論文概要(Abstract) 本記事は arXiv:2502.18449 SWE-RL の解説記事です。 SWE-RLは、オープンソースソフトウェアのコード変更履歴を活用して、LLMの実世界ソフトウェアエンジニアリング能力を強化学習(RL)で向上させる手法である。著者らは、変更後バージョンのテストスイートをバイナリ報酬の検証器として利用し、Llama 3 70BをGRPO(Group R...
論文概要(Abstract) 本論文は、テキストコーパス全体を対象とした質問応答において、LLMを用いて知識グラフ(KG)を自動構築し、Leidenアルゴリズムによるコミュニティ検出を組み合わせた二層検索アーキテクチャ「GraphRAG」を提案している。著者らは、従来のベクトル検索ベースRAGが「データセット横断的な質問」に対して根本的に弱いことを指摘し、グラフベースの階層的要約によってこ...
本記事は https://arxiv.org/abs/2501.12372 の解説記事です。 論文概要(Abstract) HAC-Retrievalは、RAGシステムが検索する「汚染されたコンテキスト」(無関係文書・敵対的文書・反事実文書)に対処するための階層的パイプラインである。Contextual Chunking、Cross-Encoderガイドによるハードネガティブ学習、Cro...
本記事は https://blog.langchain.com/benchmarking-multi-agent-architectures/ の解説記事です。 ブログ概要(Summary) LangChainチームがτ-bench(ツール利用ベンチマーク)を拡張し、3つの汎用マルチエージェントアーキテクチャ(単一エージェント、Supervisor、Swarm)を定量的に比較評価した結果...
本記事は https://arxiv.org/abs/2504.10198 の解説記事です。 論文概要(Abstract) Stivalら(2025)は、知識集約型タスク(マルチホップQA、ファクト検証等)において、Retriever・Reasoner・Criticの3役割を持つマルチエージェントRAGシステム「CITER(Collaborative Iterative Refineme...
本記事は https://developer.nvidia.com/blog/build-a-log-analysis-multi-agent-self-corrective-rag-system-with-nvidia-nemotron/ の解説記事です。 ブログ概要(Summary) NVIDIAが公開したこの技術ブログでは、LangGraphの有向グラフベースのワークフローを用いて...
本記事は Anthropic公式ブログ: Prompt caching with Claude および Claude APIドキュメント の解説記事です。 ブログ概要(Summary) Anthropicは2024年8月にClaude APIのプロンプトキャッシュ機能をGA(一般提供)としてリリースした。この機能は、APIコール間で頻繁に使われるコンテキスト(システムプロンプト、ドキュメ...
本記事は https://arxiv.org/abs/2503.09516 の解説記事です。 論文概要(Abstract) Reserら(2025)は、臨床診療ガイドライン(CPG)の検索と情報合成を目的としたAgentic RAGシステムを提案している。本システムの特徴は、Knowledge Graph(KG)ベースの検索とベクトル検索の2つの検索戦略を、スーパーバイザーエージェントが...
本記事は arXiv:2311.04934 の解説記事です。 論文概要(Abstract) LLM推論におけるプロンプト処理は、トークン長が1,000を超えることが一般的になりレイテンシの支配的要因となっている。著者らは、異なるLLMクエリ間でプロンプトの共通テキストセグメント(システムプロンプト、ドキュメントコンテキスト等)のAttention States(KVキャッシュ)を再利用す...
論文概要(Abstract) CacheBlendは、RAGシステムで検索された文書チャンクのKVキャッシュを事前計算・永続保存し、推論時に「選択的再計算(Selective Recomputation)」で効率的に結合する手法を提案する。全トークンのKVキャッシュを再計算する従来手法と異なり、チャンク間のAttention依存が強いトークンのみを選択的に再計算することで、計算量を85%削...