本記事は CacheBlend: Fast Large Language Model Serving for RAG with Cached Knowledge Fusion の解説記事です。 論文概要（Abstract） CacheBlendは、RAG（Retrieval-Augmented Generation）システムにおけるLLM推論の高速化手法である。従来のRAGでは、検索され...

本記事は arXiv:2504.15247 Lance: Efficient Random Access in Columnar Storage through Adaptive Structural Encodings（2025年4月公開）の解説記事です。 論文概要（Abstract） Lanceは、現代のAI/MLワークロード向けに設計されたオープンソースの列指向ファイルフォーマット...

本記事は RouteLLM: Learning to Route LLMs with Preference Data (Ong et al., 2024, LMSYS) の解説記事です。 論文概要（Abstract） 大規模言語モデル（LLM）のAPIコストと応答品質はトレードオフの関係にある。著者らは、クエリの難易度に応じて高品質・高コストの強モデル（例: GPT-4）と低コストの弱モ...

本記事は arXiv:2406.02957 LiquidANN: Cost-Efficient Vector Search with Tiered Storage（2024年6月公開）の解説記事です。 論文概要（Abstract） LiquidANNは、ベクトル検索のストレージコストを5-10倍削減するために、DRAM・NVMe SSD・オブジェクトストレージ（S3互換）の3層ストレージ...

本記事は Corrective Retrieval Augmented Generation（Yan et al., 2024）の解説記事です。 論文概要（Abstract） 本論文は、RAGシステムにおける検索結果の品質問題に対処するCorrective Retrieval Augmented Generation（CRAG）フレームワークを提案している。著者らは、軽量な検索品質評価器...

本記事は SWE-RL: Advancing LLM Reasoning via Reinforcement Learning on Open Software Evolution の解説記事です。 論文概要（Abstract） SWE-RLは、オープンソースソフトウェアの進化プロセス（GitHub Pull Request）を強化学習（RL）の報酬信号として活用し、LLMのソフトウェア...

本記事は SWE-bench Verified の解説記事です。 論文概要（Abstract） SWE-bench Verifiedは、元のSWE-bench（2,294問のGitHub Issue解決タスク）から人手で検証された500問のサブセットです。元のSWE-benchには「利用可能な情報だけでは解決不可能なタスク」や「不正確なテストが誤った解法を正解と判定する」問題がありました...

本記事は OpenHands: An Open Platform for AI Software Agents の解説記事です。 論文概要（Abstract） OpenHands（旧OpenDevin）は、AIソフトウェアエージェントの開発・研究・評価を統一するオープンソースプラットフォームです。著者らは、人間の開発者と同等の操作——コード記述、ターミナル実行、Webブラウジング、API...

本記事は ChatDev: Communicative Agents for Software Development の解説記事です。 論文概要（Abstract） ChatDevは、LLM駆動の複数エージェントが役割分担してソフトウェア開発の全フェーズ（設計→コーディング→テスト→ドキュメント作成）を自動化するフレームワークです。著者らは「チャットチェーン」と呼ぶ対話形式のワークフロ...

本記事は Notion公式ブログ: Two years of vector search at Notion: 10x scale, 1/10th cost（2026年2月19日公開）の解説記事です。 ブログ概要（Summary） Notionは2023年11月のNotion AI Q&Aローンチ以降、ベクトル検索基盤を10倍にスケールしながらインフラコストを90%以上削減したと...