論文概要（Abstract） 本記事は Don’t Break the Cache (arXiv: 2601.06007) の解説記事です。 LLMプロバイダーが提供するプロンプトキャッシュ機能は、APIコストとレイテンシの削減に有効であるが、マルチターンのエージェントワークフローにおける効果は十分に検証されていなかった。著者らは、OpenAI・Anthropic・Googleの3大プロ...

本記事は Less is More: Optimizing Function Calling for LLM Execution on Edge Devices (arXiv: 2411.15399) の解説記事です。 論文概要（Abstract） エッジデバイス上でのLLMエージェント展開において、Function Calling（関数呼び出し）の性能がボトルネックとなっている。著者ら...

本記事は MemGPT: Towards LLMs as Operating Systems (arXiv: 2310.08560) の解説記事です。 論文概要（Abstract） MemGPTは、従来のオペレーティングシステム（OS）における仮想メモリとページングの概念をLLMのコンテキスト管理に応用した研究である。LLMの固定長コンテキストウィンドウを「メインメモリ（RAM）」、外部...

本記事は Tool Preferences in Agentic LLMs are Unreliable (arXiv: 2505.18135) の解説記事です。 論文概要（Abstract） LLMがツール（関数）を選択する際、テキストで記述されたdescriptionのみに依存するプロセスが驚くほど脆弱であることを実証した研究である。著者らは、ツールの機能を一切変更せずdescrip...

本記事は BFCL論文 の解説記事です。 論文概要（Abstract） Berkeley Function Calling Leaderboard（BFCL）は、LLMのFunction Calling能力を包括的に評価するためのベンチマークである。著者らは、2000以上の質問-関数-回答ペアを用意し、Python・Java・JavaScript・REST APIの4言語にわたる評価を行...

論文概要 本記事は、BAAI（Beijing Academy of Artificial Intelligence）が2024年6月に発表した論文「BGE M3-Embedding: Multi-Lingual, Multi-Functionality, Multi-Granularity Text Embeddings Through Self-Knowledge Distillatio...

論文概要（Abstract） 本記事は Unlocking Efficiency in Large Language Model Inference: A Comprehensive Survey of Speculative Decoding の解説記事です。 大規模言語モデル（LLM）の自己回帰デコーディングに起因する高い推論レイテンシを軽減するため、投機的デコーディング（Specu...

本記事は EAGLE-2: Faster Inference of Language Models with Dynamic Draft Trees の解説記事です。 論文概要（Abstract） LLMの推論は自己回帰デコーディングの逐次的性質により計算コストが高く、投機的サンプリング（speculative sampling）がその有効な解決策として注目されている。著者らは、EAGL...

論文概要 本記事は、Jeongらが2023年に発表し NAACL 2024 に採択された論文 “Adaptive-RAG: Learning to Adapt Retrieval-Augmented Large Language Models through Question Complexity” (arXiv: 2310.11511) の解説記事です。 Retrieval-Augme...

本記事は Elasticsearch Labs: Linear Retriever for Hybrid Search の解説記事です。 ブログ概要（Summary） Elastic社は、Elasticsearch 8.18および9.0以降で利用可能な新しいハイブリッド検索手法「Linear Retriever」を発表しました。従来のReciprocal Rank Fusion（RRF）...