論文概要 本記事は SnapKV: LLM Knows What You are Looking for Before Generation の解説記事です。 この記事は Zenn記事: Neural Garbage Collection―LLMが自ら忘却を学ぶKVキャッシュ管理 の深掘りです。 SnapKVは、LLMの推論時に肥大化するKVキャッシュをファインチューニングなしで圧縮する...

論文概要 本記事は Efficient Streaming Language Models with Attention Sinks (Xiao et al., ICLR 2024) の解説記事です。 この記事は Zenn記事: Neural Garbage Collection―LLMが自ら忘却を学ぶKVキャッシュ管理 の深掘りです。 LLMをストリーミング用途にデプロイする際、KVキ...

論文概要 本記事は H2O: Heavy-Hitter Oracle for Efficient Generative Inference of Large Language Models の解説記事です。 この記事は Zenn記事: Neural Garbage Collection―LLMが自ら忘却を学ぶKVキャッシュ管理 の深掘りです。 H2Oは、LLMの自己回帰デコード時に生じる...

論文概要 本記事は Stochastic Beams and Where to Find Them: The Gumbel-Top-k Trick for Sampling Sequences Without Replacement の解説記事です。 この記事は Zenn記事: Neural Garbage Collection―LLMが自ら忘却を学ぶKVキャッシュ管理 の深掘りです。 ...

論文概要（Abstract） 本記事は ReST-RAG (arXiv:2505.07900) の解説記事です。 ReST-RAGは、Monte Carlo Tree Search（MCTS）とProcess Reward Model（PRM）を組み合わせて高品質な検索拡張生成（RAG）の訓練軌跡を自動的に生成し、SFT（Supervised Fine-Tuning）とGRPO（Grou...

本記事は OmegaPRM (arXiv:2406.06592) の解説記事です。 論文概要（Abstract） 大規模言語モデル（LLM）の数学的推論において、中間ステップの正誤を評価するプロセス監督（Process Supervision）は有効だが、アノテーション収集のコストが課題であった。Luo et al. は、分割統治型の Monte Carlo Tree Search（MC...

本記事は Search-R1 (arXiv:2503.09516) の解説記事です。 論文概要（Abstract） Search-R1は、LLMが推論中に自律的に検索クエリを生成し、検索エンジンから得た情報を活用してステップバイステップで回答を構築する強化学習（RL）フレームワークである。従来のRAG（Retrieval-Augmented Generation）が固定的な検索パイプライ...

本記事は ReST-MCTS*: LLM Self-Training via Process Reward Guided Tree Search (arXiv:2405.00451) の解説記事です。 論文概要（Abstract） ReST-MCTS*は、Tsinghua大学とCaltechの研究者（Dan Zhang, Sining Zhoubian, Ziniu Hu, Yisong...

本記事は Let’s Verify Step by Step (arXiv:2305.20050) の解説記事です。 論文概要（Abstract） 大規模言語モデル（LLM）の数学的推論能力を向上させるために、推論プロセスに対するフィードバック手法を比較した研究である。著者らは、最終回答の正誤のみを評価するOutcome supervision（結果監督）と、各推論ステップを個別に評価す...

本記事は SWE-Bench Pro: Raising the Bar for Agentic Coding (Scale AI Blog, 2025年9月19日) の解説記事です。 ブログ概要（Summary） 2025年9月19日、Scale AI Research Teamは、コーディングエージェント評価のための新ベンチマーク「SWE-Bench Pro」を発表した。Scale A...