ブログ概要 AWSのSenior AI/ML Solutions ArchitectであるPierre de Malliard氏が2026年4月8日に公開した本ブログでは、ヘルスケア・ライフサイエンス領域のAIエージェントシステムにおいて、人間の承認を組み込む4つの実装パターンが解説されている。GxP規制、患者安全、PHI（Protected Health Information）保護、監...
論文概要 Agent Workflow Memory (AWM) は、LLMベースのエージェントが過去の経験から再利用可能なタスクワークフロー（ルーティン）を誘導し、後続タスクの解決を導く手法である。著者らは、人間が日常的に行う「過去の経験から手順を学び、将来の行動に活かす」というプロセスをエージェントに実装した。AWMはオフライン（事前の訓練データから学習）とオンライン（テスト時にストリ...
ブログ概要（Summary） AWS公式データベースブログにて、Lee Hannigan氏（Sr. DynamoDB Database Engineer）が2026年1月13日に公開した記事である。LangGraphのチェックポイント機構をAmazon DynamoDBで永続化するための公式パッケージ langgraph-checkpoint-aws の設計思想と実装パターンを解説している...
論文概要（Abstract） ALASは、LLMベースのエージェントが抱える4つの根本的欠陥――自己検証の不在、コンテキスト侵食、次トークン近視、永続状態の欠如――に体系的に対処するマルチエージェントフレームワークである。各プランをロール特化エージェントに分解し、バージョン管理された実行ログによる自動状態追跡を装備し、軽量プロトコルで調整する。障害発生時にはグローバル再計画を回避し、局所補...
ブログ概要 本記事は Building a Stateful IT Service Desk Agent with LangGraph on Amazon EKS の解説記事です。 AWSオープンソースブログにおいて、Sunil Ramachandra氏とShashidhar Kolur氏は、LangGraph（MITライセンス）とAmazon EKSを組み合わせてステートフルなITサー...
冒頭 本記事は Azure API Management - Unified AI Gateway Design Pattern および Implement Advanced Monitoring for Foundry Models Through a Gateway の解説記事です。Azure API Management（以下APIM）をAIワークロード向けの統合ゲートウェイとして活...
本記事は Right-size your PTU deployment and save big の解説記事です。 ブログ概要 Azure OpenAI ServiceのProvisioned Throughput Units（PTU）は、専用のモデル処理容量を確保する予約型デプロイメントである。公式ブログでは、PTUのコストが高く見える主因は「ピーク負荷に合わせて全容量をPTUで確保し...
本記事は Enhancing reliability in AI inference services: An empirical study on real production incidents の解説記事です。 論文概要 本論文は、大規模LLM推論サービスで発生した156件の高重大度インシデント（2025年4月〜6月）を体系的に分類・分析した実証研究である。著者らは4カテゴリから...
本記事は SageServe論文 の解説記事です。なお、本記事は論文の内容を解説するものであり、筆者が独自に実験を行ったものではありません。 論文概要 SageServeは、Microsoft Office 365における1日あたり1,000万件のLLM推論リクエストの分析に基づき設計された、クラウドデータセンター向けLLMサービングフレームワークである。短期的なリクエストルーティングと...
本記事は Intelligent Router for LLM Workloads: Improving Performance Through Workload-Aware Load Balancing の解説記事です。LLM推論における負荷分散の課題を、ワークロード特性を考慮した強化学習ベースのルーティングで解決するアプローチを詳しく解説します。 論文概要 大規模言語モデル（LLM）...
新しいバージョンのコンテンツが利用可能です。
