本記事は Google Research Blog “Deeper insights into retrieval augmented generation: The role of sufficient context” の解説記事です。関連論文は arXiv:2411.06037 “Sufficient Context: A New Lens on Retrieval Augmented...

本記事は OpenAI Cookbook: Self-Evolving Agents の解説記事です。 ブログ概要（Summary） OpenAI公式Cookbookの「Self-Evolving Agents」は、LLMエージェントが自身のプロンプトを自律的に改善し続けるフレームワークを提示しています。モデルの再学習（ファインチューニング）ではなく、プロンプトの反復的最適化によって自己...

本記事は Amazon Bedrock Intelligent Prompt Routing および 公式ドキュメント の解説記事です。 ブログ概要（Summary） Amazon Bedrock Intelligent Prompt Routingは、2025年4月にGA（一般提供）となったマネージドLLMルーティングサービスである。単一のサーバーレスエンドポイントから、同一モデルファ...

本記事は AutoMix: Automatically Mixing Language Models (arXiv:2402.14099) の解説記事です。 論文概要（Abstract） AutoMixは、異なるサイズ・価格のLLMを自動的に組み合わせるカスケードルーティング手法である。小さなLLMが応答を生成した後、自身でその応答の品質を検証（self-verification）し、品...

本記事は arXiv:2504.01848 の解説記事です。 論文概要（Abstract） 本論文は、深層強化学習（DRL）と大規模言語モデル（LLM）を組み合わせた自己修復ネットワーク制御プレーンを提案しています。著者ら（Guangjin Pan et al., Huawei Technologies / Tsinghua University / Southeast Universi...

本記事は arXiv:2501.12372 “Retrieval-Augmented Generation vs Long-Context LLMs: A Comprehensive Study and Hybrid Approach” の解説記事です。 論文概要（Abstract） Google Research / University of Michiganの著者ら（Zhuowan...

本記事は NVIDIAテクニカルブログ: Automate Kubernetes AI Cluster Health with NVSentinel の解説記事です。 ブログ概要（Summary） NVSentinelは、NVIDIAが2025年12月に公開したオープンソースのKubernetes監視・自己修復システムです。GPUクラスタにおけるハードウェア障害（サイレントデータ破損、メ...

本記事は Hybrid LLM: Cost-Efficient and Quality-Aware Query Routing (arXiv:2407.00066) の解説記事です。 論文概要（Abstract） Hybrid LLMは、Microsoft Researchが提案した、小型で高効率なLLMと大型で高性能なLLMを適応的クエリルーティング機構で組み合わせるハイブリッド推論シ...

本記事は arXiv:2407.16833 “SELF-ROUTE: Refine Large Language Model-based Document Retrieval with Self-Route” の解説記事です。 論文概要（Abstract） SELF-ROUTEは、LLMが検索されたチャンクの十分性を自己判定し、十分であればRAGで回答、不十分であればフルコンテキスト方式...

本記事は Deploying the NVIDIA AI Blueprint for Cost-Efficient LLM Routing の解説記事です。 ブログ概要（Summary） NVIDIAは2025年3月、コスト効率の高いLLMルーティングを実現するためのAI Blueprintを公開した。このBlueprintは、Rust製のリバースプロキシとNVIDIA Triton I...