Home
0h-n0 TechBLog
キャンセル

📄 論文解説: DeepRAG — MDP定式化による適応的検索判断でRAGの効率と精度を両立

論文概要(Abstract) DeepRAGは、検索拡張生成(RAG)における「いつ・何を検索するか」という根本的課題に対し、検索判断をマルコフ決定過程(MDP)として定式化するフレームワークである。複雑なクエリを原子的サブクエリに反復分解し、各サブクエリに対して「外部検索する」か「パラメトリック知識(モデル内部知識)で回答する」かの二値決定を行う。5つのQAベンチマークで検索効率21.9...

📄 NeurIPS 2024論文解説: RankRAG — コンテキストランキングとRAGを単一LLMで統合する

論文概要(Abstract) RankRAGは、コンテキストランキング(検索結果の関連度評価)と回答生成(RAG)を単一のLLMで統合的に行うinstruction fine-tuningフレームワークである。従来のRAGパイプラインでは、検索→リランキング→生成の各段階に別々のモデルを使用していたが、RankRAGは少量のランキングデータを学習データに混合するだけで、専門的なリランキング...

📄 論文解説: Self-RAG — 自己反省トークンによる適応的検索・生成・批評の統合フレームワーク

論文概要(Abstract) Self-RAG(Self-Reflective Retrieval-Augmented Generation)は、LLMに「反省トークン(reflection tokens)」を導入することで、検索の要否判断・文書の関連性評価・生成結果の事実整合性検証を単一モデル内で統合的に実行するフレームワークです。従来のRAGが常に検索を行い、検索結果の品質を評価せずに...

📄 論文解説: SWE-bench — 実世界GitHubイシューでLLMのソフトウェアエンジニアリング能力を評価する

論文概要(Abstract) SWE-benchは、Princeton大学のCarlos E. Jimenezらが2023年に提案した、LLMのソフトウェアエンジニアリング能力を評価するベンチマークです。12のPythonリポジトリ(Django, scikit-learn, sympy等)から収集した2,294の実際のGitHub Pull Requestを基にタスクを構成し、エージェン...

📄 論文解説: Chain-of-Thought Prompting Elicits Reasoning in Large Language Models

論文概要(Abstract) Chain-of-Thought(CoT)Promptingは、大規模言語モデル(LLM)に中間推論ステップを生成させることで、複雑な推論タスクの正答率を大幅に向上させる手法です。Wei et al.(2022, Google Brain)は、Few-shot プロンプトの例示に「思考の連鎖」を含めるだけで、算術推論・常識推論・記号推論の3領域で一貫した性能向...

📄 EMNLP 2024論文解説: CodeAgent — マルチエージェントLLMによる自律的コードレビューシステム

論文概要(Abstract) CodeAgentは、コードレビューの協調的な性質に着目し、複数のLLMエージェントが自律的に通信・協力してレビューを遂行するマルチエージェントフレームワークである。監督エージェントであるQA-Checkerが各専門エージェントの出力品質を保証し、コミットメッセージとコード変更の不整合検出、脆弱性の特定、コードスタイルの検証、コード修正提案の4タスクで評価され...

✍️ LangChain公式解説: LangGraph Adaptive RAG — エージェント型検索ルーティングの実装パターン

ブログ概要(Summary) LangChain公式のLangGraph Adaptive RAGチュートリアルは、LLMが検索の要否を自律的に判断し、検索結果の品質を評価し、必要に応じてクエリを書き換えるエージェント型RAGシステムの構築方法を解説しています。文書の前処理、セマンティック検索インデックスの構築、エージェント的な意思決定の3つの能力を統合したシステムで、条件分岐とフィードバ...

📄 論文解説: Multi-Document RAGにおけるBM25・Dense・Hybrid検索戦略の体系的比較

論文概要(Abstract) 本論文は、金融ドメインにおけるマルチドキュメントRAGの検索戦略を体系的に評価した研究です。Dense Retrieval(LLM Embeddings)、Sparse Retrieval(BM25)、Hybrid Retrieval(DenseとSparseの統合)、Parent-Child Retrievalの4つの検索手法と、LLMベースRerankin...

📄 論文解説: Chain-of-Retrieval Augmented Generation — 反復的クエリ再構成でマルチホップQAの精度を向上

論文概要(Abstract) Chain-of-Retrieval Augmented Generation(CoRAG)は、言語モデルが最終回答を生成する前に段階的に情報を検索・推論する手法です。従来のRAGが初期クエリで1回だけ検索を行うのに対し、CoRAGは検索結果と中間推論に基づいてクエリを反復的に再構成し、マルチホップ質問に対してより正確で包括的な回答を可能にします。Reject...

📄 論文解説: Query Routing for Homogeneous Tools — 同種ツール間の軽量クエリルーティング手法

論文概要(Abstract) 本論文は、同一機能を持つ複数の同種ツール(Homogeneous Tools)間でクエリを最適なツールにルーティングする手法を体系的に調査した初の実証研究です。従来の研究は異種ツール(検索、計算、翻訳など機能が異なるツール)のルーティングに集中していましたが、同種ツール — 同じタスクを解くが性能プロファイルが異なるツール群 — のルーティングは未探索でした。...