Home
0h-n0 TechBLog
キャンセル

📄 論文解説: AgenticRAG — エージェント型検索拡張生成

本記事は https://arxiv.org/abs/2605.05538 の解説記事です。 論文概要(Abstract) AgenticRAGは、企業向けナレッジベースに対する検索・分析を反復エージェントループとして再定式化するフレームワークである。従来のRAGパイプラインが検索スタックへのグラウンディング依存度を高め、LLMを固定された候補集合に制約していた問題に対し、Search・...

📄 論文解説: MCP-Zero — MCPエコシステムにおける能動的ツール探索フレームワーク

本記事は https://arxiv.org/abs/2504.16736 の解説記事です。 論文概要(Abstract) Model Context Protocol(MCP)はLLMが標準化されたサーバーを介して外部ツールにアクセスする仕組みを提供するが、MCPサーバー数の増加に伴いツール記述がコンテキストウィンドウを圧迫する問題が顕在化している。MCP-Zeroは、階層的プランニン...

📄 論文解説: Active Retrieval Augmented Generation (FLARE)

本記事は Active Retrieval Augmented Generation の解説記事です。 論文概要(Abstract) Jiang, Xu, Gao, Sun, Liu, Dwivedi-Yu, Yang, Callan, Neubig (Carnegie Mellon University, 2023) は、長文生成タスクにおけるRetrieval-Augmented G...

📄 論文解説: AlphaZero着想のMCTS反復選好学習でLLM推論を強化

論文概要(Abstract) 本記事は Monte Carlo Tree Search Boosts Reasoning via Iterative Preference Learning の解説記事です。 著者らは、AlphaZeroの自己対戦学習に着想を得て、Monte Carlo Tree Search(MCTS)によりステップレベルの選好データを生成し、Direct Prefer...

📄 論文解説: Tree Search for Language Model Agents — 推論時探索でWebエージェント性能を39.7%改善

論文概要(Abstract) 本記事は Tree Search for Language Model Agents(ICLR 2025採択)の解説記事です。 言語モデル(LM)を用いた自律エージェントは、Web自動操作などの意思決定タスクで有望な成果を示している。しかし、LMは自然言語の理解・生成に最適化されており、多段階の推論・計画・環境フィードバックの活用に課題を抱えている。著者らは...

📄 NeurIPS 2024論文解説: ReST-MCTS* — プロセス報酬ガイド付きツリー探索によるLLM自己学習

論文概要(Abstract) 本記事は ReST-MCTS* の解説記事です。 ReST-MCTSは、プロセス報酬モデル(PRM)とMonte Carlo Tree Search(MCTS)を統合し、LLMの推論トレースを自動的に生成・選別して自己学習を行うフレームワークです。従来の自己学習手法(ReST-EMなど)が最終回答の正誤のみでフィルタリングしていたのに対し、ReST-MCTS...

📄 論文解説: MCTSr — MCTS自己洗練でLLaMA-3 8BがGPT-4数学レベルに到達

本記事は MCTSr論文 (arXiv:2406.07394) の解説記事です。 論文概要(Abstract) MCT Self-Refine(MCTSr)は、Monte Carlo Tree Search(MCTS)とLLMの自己洗練(Self-Refine)を統合し、数学的推論の性能を向上させるアルゴリズムである。著者らはLLaMA-3 8BにMCTSrを適用し、GSM8Kで96.6...

📄 論文解説: Everything of Thoughts (XoT) — RL+MCTSで思考生成の性能・効率・柔軟性を同時達成

本記事は Everything of Thoughts (XoT) の解説記事です。 論文概要(Abstract) Ding, Zhang, Wang et al. (2023) は、LLMの思考生成において「性能(Performance)」「効率(Efficiency)」「柔軟性(Flexibility)」の3要素を同時に達成するフレームワーク XoT(Everything of Th...

📄 論文解説: PyramidKV — ピラミッド型情報漏斗に基づく動的KVキャッシュ圧縮

論文概要(Abstract) LLMの推論時にメモリを大量に消費するKVキャッシュを、Attention分布の層間パターンに基づいて動的に圧縮する手法 PyramidKV を提案した論文です。著者らは、Transformerの低い層ではAttentionが広く分散し、高い層では少数の重要トークンに集中するという「Pyramidal Information Funneling(ピラミッド型情...