論文概要（Abstract） LLMが自信満々に誤った情報を生成する「ハルシネーション」問題に対し、検出と緩和の両面から取り組む包括的フレームワークを提案します。検出には不確実性推定・事実整合性チェック・推論検証の3つのアプローチを組み合わせ、緩和には知識グラウンディング・プロンプトエンジニアリング・モデル改良を用います。 実験では、複数の検出手法を組み合わせることで精度が向上し、タスク...

論文概要（Abstract） LLMの構造化データ生成（JSON/XML等）における出力一貫性を評価・改善するための包括的フレームワークです。本論文は、STED（Semantic Tree Edit Distance）という新しい類似度メトリクスと、一貫性スコアリングを組み合わせることで、従来のメトリクス（BERTScore、DeepDiff等）が抱えていた問題を解決します。 実験では、...

論文概要（Abstract） MiniCheckは、LLM出力がグラウンディングドキュメント（参照文書）に基づいているかを検証する軽量・高速なファクトチェックモデルです。 従来のGPT-4ベース検証（APIコスト高、レイテンシ大）に対し、BERTベースの小型モデル（110M parameters）で同等以上の精度を達成します。Zenn記事の「引用接地（Citation Grounding...

論文概要（Abstract） HaloScopeは、ラベル付きデータを必要としないハルシネーション検出フレームワークです。LLMが生成した大量の未ラベルテキストから、自己教師あり学習によりハルシネーションを検出する手法を提案します。 従来手法が高コストな人手ラベリングに依存していたのに対し、HaloScopeは複数回サンプリング + 一貫性ベース検証により、教師なしでハルシネーションを特...

Google AdSenseの許可がおり、自分のサイトに広告を表示したいとき、ads.txtをドメイン直下に配置しなければなりません。。参考のリンク1にも記載していますが、ads.txtの配置は以下のような目的に基づきます。 [引用] ads.txt を使用すれば、購入者が偽の広告枠を判別できるため、サイト運営者様としても偽の広告枠に収益が流れるのを阻止し、その分収益を増やすことがで...

　オライリーの書籍『テスト駆動開発』を読みつつ、詰まったところや一部書き換えが必要なところをまとめました。そして一部のサンプルをpythonベースで書き換えています。詳しい内容は是非とも書籍を購入して確認してください。 前置き 　この本を手に取っているということは、ある程度のエンジニア歴があると仮定します。このブログはMLE/DS向けに記載しているため、書籍ではJavaのサンプルコードが...

オライリーの書籍『SolidityとEthereumによる実践スマートコントラクト開発 ―Truffle Suiteを用いた開発の基礎からデプロイまで』を読みつつ、詰まったところや一部書き換えが必要なところをまとめました。この内容は本書の第三章の部分の補足となります。最初はsolidityで概要を学びつつ、いずれはRustに移行したいです。Rustでの開発も盛んなようですし1…。 環境構築...

AWS CLIでよく使うコマンドなどを逆引きでまとめました。この記事は随時更新予定です。 逆引きコマンドチートシート   command 登録しているAWSプロファイルリストの一覧 aws configure list-profiles IAMユーザーやロール...

　機械学習エンジニア(MLE)とデータサイエンティスト(DS)向けの本を紹介。ちなみにAmazon評価信者！！！それぞれの本を恐れ多くも、MLEとDSにオススメ度を5段階評価を表しいます。書籍自体の良し悪しを評価しているのでは決してありません。 機械学習 基礎 ★★☆☆☆: 多変量解析入門――線形から非線形へ 　* 教科書的に最高な本。学生ならおススメしたい。働いてからは辞書にな...

　お世話になっております。おばんどす。現在、youtubeの教育コンテンツの成長がすさまじく、機械学習全般のコンテンツも豊富にあります。ここでは、私が登録している機械学習系のYoutube channelを紹介していきます。非常にボリューミーなので、すべてを確認するというスタンスではなく、興味がある動画をピックアップして、さらっと確認した方が良いです。(1.5倍速推奨)別の記事で、おすすめサ...