Gemini API キーをダウンタイムゼロでローテーションする実装パターン

// gemini-client.js
import { GoogleGenAI } from "@google/genai";
 
const KEYS = [
  process.env.GEMINI_API_KEY_PRIMARY,
  process.env.GEMINI_API_KEY_SECONDARY,
].filter(Boolean);
 
if (KEYS.length === 0) {
  throw new Error("Gemini API キーが1本も設定されていません");
}
 
let activeIndex = 0;
 
export async function generate(prompt) {
  for (let attempt = 0; attempt < KEYS.length; attempt++) {
    const idx = (activeIndex + attempt) % KEYS.length;
    const ai = new GoogleGenAI({ apiKey: KEYS[idx] });
    try {
      const res = await ai.models.generateContent({
        model: "gemini-2.5-flash",
        contents: prompt,
      });
      activeIndex = idx; // 成功したキーを次回も先頭に
      return res.text;
    } catch (err) {
      const code = err?.status ?? err?.response?.status;
      // 401 / 403 / 429 のときだけ次のキーへ
      if (![401, 403, 429].includes(code) || attempt === KEYS.length - 1) {
        throw err;
      }
      console.warn(`Key index ${idx} failed (${code}). Falling back…`);
    }
  }
}
 
// 期待動作: PRIMARY が無効化されても自動で SECONDARY に切り替わり、
// プロセス再起動なしでサービスは継続稼働する

wrangler secret put GEMINI_API_KEY_PRIMARY
wrangler secret put GEMINI_API_KEY_SECONDARY

// worker.ts
import { GoogleGenAI } from "@google/genai";
 
interface Env {
  GEMINI_API_KEY_PRIMARY: string;
  GEMINI_API_KEY_SECONDARY?: string;
}
 
export default {
  async fetch(req: Request, env: Env): Promise<Response> {
    const { prompt } = await req.json<{ prompt: string }>();
    const keys = [env.GEMINI_API_KEY_PRIMARY, env.GEMINI_API_KEY_SECONDARY].filter(Boolean) as string[];
 
    let lastErr: unknown;
    for (const key of keys) {
      try {
        const ai = new GoogleGenAI({ apiKey: key });
        const res = await ai.models.generateContent({
          model: "gemini-2.5-flash",
          contents: prompt,
        });
        // 観測: どのキーで成功したかを Workers Logs に出す
        console.log(JSON.stringify({ event: "gemini_ok", key_id: key.slice(-4) }));
        return Response.json({ text: res.text });
      } catch (err) {
        lastErr = err;
        console.warn(JSON.stringify({ event: "gemini_fail", key_id: key.slice(-4) }));
      }
    }
    return new Response("All keys failed: " + String(lastErr), { status: 502 });
  },
};
 
// 期待動作: ログには key_id（末尾4桁）だけが残り、漏えい時に
// どのキーが本番でアクティブだったかを後から追跡できる

# gemini_failover_client.py
import os
import logging
from typing import Optional
from google import genai
from google.genai import errors
 
logger = logging.getLogger(__name__)
 
class GeminiFailoverClient:
    def __init__(self, keys: Optional[list[str]] = None):
        self.keys = keys or [
            os.environ.get("GEMINI_API_KEY_PRIMARY"),
            os.environ.get("GEMINI_API_KEY_SECONDARY"),
        ]
        self.keys = [k for k in self.keys if k]
        if not self.keys:
            raise RuntimeError("Gemini API キーが1本もありません")
        self._active = 0
 
    def _client(self, idx: int) -> genai.Client:
        return genai.Client(api_key=self.keys[idx])
 
    def generate(self, prompt: str, model: str = "gemini-2.5-flash") -> str:
        last_exc: Optional[Exception] = None
        for offset in range(len(self.keys)):
            idx = (self._active + offset) % len(self.keys)
            try:
                resp = self._client(idx).models.generate_content(
                    model=model, contents=prompt
                )
                self._active = idx
                return resp.text
            except errors.ClientError as e:
                # 401/403/429 系のみフェイルオーバー対象
                if e.code not in (401, 403, 429):
                    raise
                logger.warning("Key index %d failed (%s). Falling over.", idx, e.code)
                last_exc = e
        raise RuntimeError("全てのキーが失敗") from last_exc
 
# 期待動作:
# >>> client = GeminiFailoverClient()
# >>> client.generate("こんにちは")
# 'こんにちは！何かお手伝いしましょうか…'
# PRIMARY 無効化中でも例外を投げずに応答が返る

# .github/workflows/rotate-gemini-key.yml
name: Rotate Gemini API Key
on:
  schedule:
    - cron: "0 0 1 */3 *"  # 3ヶ月ごとの月初
  workflow_dispatch:
 
jobs:
  rotate:
    runs-on: ubuntu-latest
    steps:
      - uses: actions/checkout@v4
      - name: Promote SECONDARY to PRIMARY
        env:
          CF_API_TOKEN: ${{ secrets.CF_API_TOKEN }}
        run: |
          # 1. 旧 PRIMARY を退避
          OLD_PRIMARY=$(wrangler secret get GEMINI_API_KEY_PRIMARY)
          # 2. SECONDARY を PRIMARY に昇格
          wrangler secret get GEMINI_API_KEY_SECONDARY | wrangler secret put GEMINI_API_KEY_PRIMARY
          # 3. 新しい SECONDARY を発行（手動で AI Studio から取得し vault に格納）
          echo "::notice::新しい SECONDARY キーを AI Studio で発行し vault に保存してください"
          # 4. 24時間後に旧 PRIMARY を Delete（別ジョブで実装）