本記事は arXiv:2501.12372 “Retrieval-Augmented Generation vs Long-Context LLMs: A Comprehensive Study and Hybrid Approach” の解説記事です。 論文概要（Abstract） Google Research / University of Michiganの著者ら（Zhuowan...

本記事は NVIDIAテクニカルブログ: Automate Kubernetes AI Cluster Health with NVSentinel の解説記事です。 ブログ概要（Summary） NVSentinelは、NVIDIAが2025年12月に公開したオープンソースのKubernetes監視・自己修復システムです。GPUクラスタにおけるハードウェア障害（サイレントデータ破損、メ...

本記事は Hybrid LLM: Cost-Efficient and Quality-Aware Query Routing (arXiv:2407.00066) の解説記事です。 論文概要（Abstract） Hybrid LLMは、Microsoft Researchが提案した、小型で高効率なLLMと大型で高性能なLLMを適応的クエリルーティング機構で組み合わせるハイブリッド推論シ...

本記事は arXiv:2407.16833 “SELF-ROUTE: Refine Large Language Model-based Document Retrieval with Self-Route” の解説記事です。 論文概要（Abstract） SELF-ROUTEは、LLMが検索されたチャンクの十分性を自己判定し、十分であればRAGで回答、不十分であればフルコンテキスト方式...

本記事は Deploying the NVIDIA AI Blueprint for Cost-Efficient LLM Routing の解説記事です。 ブログ概要（Summary） NVIDIAは2025年3月、コスト効率の高いLLMルーティングを実現するためのAI Blueprintを公開した。このBlueprintは、Rust製のリバースプロキシとNVIDIA Triton I...

本記事は Chroma Research “Context Rot: How Increasing Input Tokens Impacts LLM Performance” の解説記事です。 ブログ概要（Summary） Chroma Researchが2025年7月に公開した本研究は、18のLLMに対して194,480回のAPI呼び出しを行い、入力トークン数の増加がモデル性能に与える...

本記事は arXiv:2503.09194 の解説記事です。 論文概要（Abstract） 本論文は、LLMを活用したKubernetes環境の自律操作・自己修復システムの設計と6ヶ月間の本番運用結果を報告しています。著者は、Intent Parser・Context Manager・Constraint Engine・Multi-Model Orchestrator・Feedback ...

本記事は RouteLLM: Learning to Route LLMs with Preference Data (arXiv:2406.18665) の解説記事です。 論文概要（Abstract） RouteLLMは、UC BerkeleyのLMSYS（Chatbot Arena）グループが提案したLLMルーティングフレームワークである。強いモデル（例: GPT-4）と弱いモデル（...

本記事は arXiv:2503.00237 の解説記事です。 論文概要（Abstract） EvoAgentは、LLMエージェントが継続的な探索（Continual Exploration）を通じて自律的にスキルを獲得・蓄積・改善する自己進化フレームワークです。著者ら（Qi He, Yansong Feng et al., Peking University）は、エージェントがタスクを解...

本記事は arXiv:2502.09977 “LaRA: Benchmarking Retrieval-Augmented Generation and Long-Context LLMs” の解説記事です。 論文概要（Abstract） LaRA（Large-scale RAG Assessment）は、Retrieval-Augmented Generation（RAG）とLong-...