本記事は Vespa公式ブログ: Matryoshka + Binary vectors: Slash vector search costs with Vespa の解説記事です。 ブログ概要(Summary) Vespa社のChief ScientistであるJo Kristian Bergum氏による本ブログ記事は、Matryoshka Representation Learnin...
論文概要 本記事は、ICML 2025に採択された論文「Efficiently Serving Large Multimodal Models Using EPD Disaggregation」(Singh et al.)の解説記事です。著者自身が実験を行ったわけではなく、論文の内容を引用・解説しています。 Large Multimodal Model(LMM)はテキストに加えて画像・動...
本記事は Qdrant公式ブログ: Binary Quantization — Vector Search, 40x Faster の解説記事です。 ブログ概要(Summary) Qdrant社のNirant Kasliwal氏による本ブログ記事は、Binary Quantization(BQ)をQdrantベクトルDBに実装した際の技術的詳細とベンチマーク結果を報告している。BQはfl...
本記事について 本記事は、Google Cloudの公式ブログ記事 New startup CPU boost improves cold starts in Cloud Run, Cloud Functions(著者: Steren Giannini氏、Google Cloud Director of Product Management、2022年9月27日公開)の技術解説記事です。本...
本記事は Optimization of embeddings storage for RAG systems using quantization and dimensionality reduction techniques (arXiv:2505.00105) の解説記事です。 論文概要(Abstract) 本論文は、RAG(Retrieval-Augmented Generati...
論文概要 本記事は、ICDCS 2025(45th IEEE International Conference on Distributed Computing Systems)に採択された論文 “Efficient Serverless Cold Start: Reducing Library Loading Overhead by Profile-guided Optimization...
本記事は SMEC: Rethinking Matryoshka Representation Learning for Retrieval Embedding Compression (arXiv:2510.12474) の解説記事です。 論文概要(Abstract) SMEC(Sequential Matryoshka Embedding Compression)は、Matryosh...
論文概要 本記事は ModServe: Modality- and Stage-Aware Resource Disaggregation for Scalable Multimodal Model Serving (Qiu et al., ACM SoCC 2025) の解説記事です。本記事は引用・解説であり、筆者が独自に実験を行ったものではありません。 ModServeは、大規模マル...
論文概要 本記事は Serverless Cold Starts and Where to Find Them (arXiv:2410.06145) の解説記事です。本記事は引用・解説であり、筆者自身による実験は行っていません。 Joosen らは、Huawei の本番サーバーレスプラットフォーム(YuanRong)から収集した31日間・5データセンターリージョンにわたる85億リクエスト...
本記事は Matryoshka Representation Learning (arXiv:2205.13147) の解説記事です。 論文概要(Abstract) Matryoshka Representation Learning(MRL)は、単一のEmbeddingモデルから複数粒度の次元ベクトルを同時に学習する手法である。著者らは、通常の学習パイプラインに最小限の変更を加えるだけ...