ブログ概要 本記事は https://aws.amazon.com/blogs/storage/optimize-agent-tool-selection-using-s3-vectors-and-bedrock-knowledge-bases/ の解説記事です。 AIエージェントが利用可能なツール数が増大すると、適切なツールを選択するコストとレイテンシが急増する。AWS公式ブログでは、...

論文概要（Abstract） 本記事は https://arxiv.org/abs/2510.19169 の解説記事です。 OpenGuardrailsは、LLMの安全性に関する3つの主要リスク（有害コンテンツ生成、プロンプトインジェクション/ジェイルブレイク、データ漏洩）に対処するオープンソースのガードレールプラットフォームである。リクエスト単位でポリシーをカスタマイズできるConfi...

論文概要 本記事は https://arxiv.org/abs/2606.17016 の解説記事です。 TokenPilotは、拡張LLMエージェントセッションにおけるコンテキスト蓄積コストの問題に取り組む2層コンテキスト管理フレームワークである。既存のテキスト圧縮や動的メモリ退去はシーケンスを変更するため、プレフィックスキャッシュの不一致とキャッシュ無効化を引き起こす。TokenPil...

論文概要 本記事は https://arxiv.org/abs/2601.22438 の解説記事です。 KevlarFlowは、大規模言語モデル（LLM）サービングシステムの耐障害性を向上させるアーキテクチャである。ハイパースケールクラスタにおけるハードウェア障害は頻繁に発生し、従来のシステムでは復旧に最大10分を要していた。KevlarFlowは、分離型モデル並列初期化（Decoupl...

論文概要（Abstract） 本記事は https://arxiv.org/abs/2604.19821 の解説記事です。 JTPRO（Joint Tool-Prompt Reflective Optimization）は、LLMエージェントが大規模ドメイン固有ツールインベントリを扱う際に生じるツール誤選択とスロット/値の不正確なインスタンス化を解決するフレームワークである。著者らは、根...

論文概要（Abstract） 本記事は https://arxiv.org/abs/2510.00202 の解説記事です。 RouterArenaは、LLMルーター（クエリに応じて最適なLLMを選択するシステム）を包括的に比較評価するための初のオープンプラットフォームである。著者らは、デューイ十進分類法（DDC）とブルームのタキソノミーに基づく原理的なデータセット構築を行い、44カテゴリ...

論文概要（Abstract） 本記事は https://arxiv.org/abs/2507.21428 の解説記事です。 LLMエージェントが数百〜数千のツールを利用するマルチターン対話において、固定コンテキストウィンドウが有効性を制限する問題に取り組んだ研究である。著者らは、ツールコンテキストの動的管理フレームワーク「MemTool」を提案し、3つの動作モード（Autonomous ...

論文概要（Abstract） 本記事は https://arxiv.org/abs/2504.02268 の解説記事です。 LLMの推論コストを削減する手法として注目されるセマンティックキャッシュにおいて、汎用Embeddingモデルではドメイン固有のクエリに対する精度が不十分であるという課題がある。著者らは、ModernBERT（149Mパラメータ）をベースに、ドメイン特化データで1エ...

論文概要（Abstract） 本記事は https://arxiv.org/abs/2502.18482 の解説記事です。 MixLLMは、複数のLLM（Large Language Model）へのクエリ割り当てをコンテキストバンディット問題として定式化し、品質とコストのトレードオフを動的に最適化するルーティングシステムである。著者らは、クエリタグによる埋め込み強化、LLM別の品質・コ...

論文概要（Abstract） 本記事は https://arxiv.org/abs/2408.01875 の解説記事です。 LLMベースの自律エージェントにおいて、ツールセットが拡大するにつれて適切なツールの選択が困難になる問題に対し、著者らは教師なしのツール検索手法Re-Invokeを提案している。Re-Invokeは、（1）インデックス時にツールドキュメントから多様な合成クエリを生成...