ディギコのチャピりログは、ChatGPTとClaudeの無料LLMにビューティー分野のカテゴリ質問を各10回行い、LLMが想起した商品と想起集合の強度、RAG(AI検索)の発火率を集計した結果です。商品の性能・品質を評価・推奨するものではありません

トドオナダのディギコが
ひたすら美容情報をチャピったログをまとめます。

「おすすめの○○は?」をGPTとClaudeに10回ずつ。LLMが何を思い出し、どれくらい揺れ、RAGに逃げたかを記録しています。

ディギコ

想起集合の強度帯別 RAG発火率

強度帯組数平均RAG発火率GPTClaude
盤石207.5%11.2%5.0%
強固5325.8%17.7%37.3%
中程度7129.6%19.6%46.9%
不安定1442.9%40.0%44.0%
想起なし1832.2%32.2%

想起集合の強度が下がるほど、LLMはRAGに頼ります。

数字の読み方

想起集合の強度

同じ質問を10回したとき、LLMが挙げる商品の顔ぶれがどれだけ一致するかを0〜1で表します。1.0に近いほど毎回同じ顔ぶれ、0に近いほど毎回違う顔ぶれです。強度が高いカテゴリほど、LLMの中で答えが固まっています。

盤石 0.86以上強固 0.70以上中程度 0.40以上不安定 0.40未満想起なし

「想起なし」は10回すべてで商品名を挙げなかったカテゴリです。

RAG発火率

RAG(AI検索)を使える条件で同じ質問を10回したとき、LLMが自分の想起集合で答えずにRAGを呼んだ回数の割合です。0/10ならLLMは想起集合だけで答え、10/10なら毎回RAGに頼っています。

RAG依存 8/10以上

RAG発火率が高いカテゴリでは、RAGで参照される情報の整備が結果に直結します。低いカテゴリでは、想起集合を作る材料(LLMの事前学習に届く記事)の量が効きます。

ビューティー カテゴリ一覧 88件

シェービング・ムダ毛処理

スキンケア・ボディケア

ネイル

バス用品

ヘアケア・カラー・スタイリング

メイクアップ

メイク道具・フェイスケアツール

栄養補助食品

香水・フレグランス

自社ブランドはLLMの想起集合に入っていますか?ディギディギなら、任意のカテゴリ・任意のモデルで想起集合の強度とハルシネーションを測定できます。
ディギディギを見る