- 📄 NeurIPS 2024論文解説: Toward Efficient Inference for Mixture of Experts — MoE推論のスループットを最大11.55倍改善する3手法
- ✍️ NVIDIA Tech Blog解説: CUDA GraphsによるLlama.cpp推論の最適化 — カーネル起動オーバーヘッドの削減手法
- 📄 論文解説: Qwen2.5-Coder — 5.5兆トークンで学習したオープンソースコーディングLLMの設計と性能
- 📄 論文解説: PowerInfer — コンシューマGPUでLLM推論を最大11.69倍高速化するCPU-GPUハイブリッドエンジン
- 📄 論文解説: DeepSeek-V2 — MoEモデルのKVキャッシュを93.3%削減するMulti-head Latent Attention
お世話になっております。おばんどす。現在、youtubeの教育コンテンツの成長がすさまじく、機械学習全般のコンテンツも豊富にあります。ここでは、私が登録している機械学習系のYoutube channelを紹介していきます。非常にボリューミーなので、すべてを確認するというスタンスではなく、興味がある動画をピックアップして、さらっと確認した方が良いです。(1.5倍速推奨)別の記事で、おすすめサ...