Firestore × Gemini Embeddings の RAG が静かに劣化する — 埋め込み世代交代に耐える再埋め込み設計

// embed.js — Gemini Embeddings を「素性つき」で生成するラッパー
import { GoogleGenAI } from "@google/genai";
import crypto from "node:crypto";
 
const ai = new GoogleGenAI({ apiKey: process.env.GEMINI_API_KEY });
 
// 埋め込み構成を1か所に固定する。差し替えはここだけを変える。
export const EMBED_CONFIG = {
  model: "gemini-embedding-001",
  dimensions: 1536,        // 既定3072から切り詰め。Firestoreインデックスと必ず一致させる
  version: "v2",           // 構成を変えたら必ずインクリメントする内部バージョン
};
 
function sha256(text) {
  return crypto.createHash("sha256").update(text).digest("hex");
}
 
// taskType は保存時 RETRIEVAL_DOCUMENT / 検索時 RETRIEVAL_QUERY を渡す
export async function embed(text, taskType) {
  const res = await ai.models.embedContent({
    model: EMBED_CONFIG.model,
    contents: text,
    config: {
      taskType,
      outputDimensionality: EMBED_CONFIG.dimensions,
    },
  });
  const values = res.embeddings[0].values;
  return {
    values,
    meta: {
      embedModel: EMBED_CONFIG.model,
      embedDims: EMBED_CONFIG.dimensions,
      embedVersion: EMBED_CONFIG.version,
      taskType,
      textHash: sha256(text),
    },
  };
}

// store.js — ベクトルとメタ情報を一緒に保存する
import { getFirestore, FieldValue } from "firebase-admin/firestore";
import { embed, EMBED_CONFIG } from "./embed.js";
 
const db = getFirestore();
 
export async function upsertDoc(docId, text, extraFields = {}) {
  const { values, meta } = await embed(text, "RETRIEVAL_DOCUMENT");
  await db.collection("kb").doc(docId).set(
    {
      text,
      ...extraFields,
      embedding: FieldValue.vector(values),  // ネイティブベクトル型で保存
      embedVersion: meta.embedVersion,       // フィルタに使うので必ずトップレベル
      embedModel: meta.embedModel,
      embedDims: meta.embedDims,
      textHash: meta.textHash,
      updatedAt: FieldValue.serverTimestamp(),
    },
    { merge: true },
  );
}

// drift-check.js — 旧バージョンの残量を数える
import { getFirestore } from "firebase-admin/firestore";
import { EMBED_CONFIG } from "./embed.js";
 
const db = getFirestore();
 
export async function countStaleVectors() {
  const snap = await db
    .collection("kb")
    .where("embedVersion", "!=", EMBED_CONFIG.version)
    .count()
    .get();
  const stale = snap.data().count;
  if (stale > 0) {
    console.warn(`[drift] 旧バージョンのベクトルが ${stale} 件残っています`);
  }
  return stale;
}

// golden-eval.js — 固定クエリで Recall@5 を測る
import { search } from "./search.js";
 
const GOLDEN = [
  { query: "返金ポリシーはどこで確認できますか", expectId: "faq-refund" },
  { query: "サブスクの解約手順", expectId: "guide-cancel-subscription" },
  // ... 20〜30組
];
 
export async function evalRecallAt5() {
  let hit = 0;
  for (const g of GOLDEN) {
    const results = await search(g.query, { limit: 5 });
    if (results.some((r) => r.id === g.expectId)) hit++;
  }
  const recall = hit / GOLDEN.length;
  console.log(`Recall@5 = ${recall.toFixed(3)}`);
  return recall;
}

// reembed.js — 新フィールドへバックフィルし、完了後に読み先を切り替える
import { getFirestore, FieldValue } from "firebase-admin/firestore";
import { embed, EMBED_CONFIG } from "./embed.js";
 
const db = getFirestore();
const NEW_FIELD = "embedding_v2";
 
// テキストが変わっていない行は再API呼び出しを省く（コスト削減の要）
export async function backfill(batchSize = 100) {
  let last = null;
  let processed = 0;
  for (;;) {
    let q = db.collection("kb").orderBy("__name__").limit(batchSize);
    if (last) q = q.startAfter(last);
    const snap = await q.get();
    if (snap.empty) break;
 
    for (const doc of snap.docs) {
      const d = doc.data();
      // すでに最新構成で埋め込み済みならスキップ
      if (d.embedVersionV2 === EMBED_CONFIG.version) continue;
      const { values, meta } = await embed(d.text, "RETRIEVAL_DOCUMENT");
      await doc.ref.update({
        [NEW_FIELD]: FieldValue.vector(values),
        embedVersionV2: meta.embedVersion,
        embedDimsV2: meta.embedDims,
      });
      processed++;
    }
    last = snap.docs[snap.docs.length - 1];
  }
  console.log(`backfill 完了: ${processed} 件を再埋め込みしました`);
}

// search.js — 距離しきい値つきベクトル検索
import { getFirestore } from "firebase-admin/firestore";
import { embed } from "./embed.js";
 
const db = getFirestore();
const VECTOR_FIELD = "embedding_v2";     // 移行後はこの1行だけ切り替える
const MAX_DISTANCE = 0.55;               // COSINE距離。ゴールデンセットで調整する
 
export async function search(query, { limit = 8 } = {}) {
  const { values } = await embed(query, "RETRIEVAL_QUERY");
  const snap = await db
    .collection("kb")
    .where("embedVersionV2", "==", "v2")  // 移行漏れの行を物理的に除外
    .findNearest({
      vectorField: VECTOR_FIELD,
      queryVector: values,
      limit,
      distanceMeasure: "COSINE",
      distanceResultField: "_distance",
    })
    .get();
 
  return snap.docs
    .map((d) => ({ id: d.id, ...d.data(), distance: d.get("_distance") }))
    .filter((r) => r.distance <= MAX_DISTANCE);  // 遠すぎる候補を捨てる
}